Бывший сотрудник одной из крупнейших американских лабораторий искусственного интеллекта Джейкоб Коксон объявил об уходе из индустрии, обвинив своих работодателей в безответственной гонке за созданием сверхразума, способного к самосовершенствованию. 27-летний исследователь, три года занимавшийся предобучением моделей, заявил,
что компании, в которых он работал, «ставят на кон наши жизни» и «играют в рулетку» с будущим человечества. Коксон начал свою карьеру в области ИИ в одной из ведущих американских лабораторий, а затем перешёл в конкурирующую организацию, которую считал более осторожной в вопросах безопасности. Однако, по его словам, обе
структуры оказались заложниками гонки, где остановка означает потерю позиций. «Ни одна из компаний не действует ответственно. Они несутся напролом к самоулучшающемуся сверхразуму и играют в рулетку нашими жизнями», — написал он в социальной сети X. Главный страх исследователя связан с так называемым рекурсивным самоулучшением — сценарием, при котором искусственный интеллект берёт на себя достаточную часть
исследований в собственной области и начинает ускоренно создавать всё более мощные версии самого себя. По оценке Коксона, человечество движется по «одному из самых агрессивных сценариев», при котором уже к концу 2027 года ситуация может выйти из-под контроля. Особое внимание Коксон уделил разрыву между публичной риторикой руководителей ИИ-компаний и их частными разговорами.
«Люди, создающие ИИ, искренне верят, что он может погубить нас всех к концу десятилетия. Это не маркетинговый трюк. Многие руководители и старшие исследователи будут подбирать слова в прессе так, чтобы звучать разумно, но я слышу, как те же самые люди выражают страх наедине», — подчеркнул он. Позицию Коксона поддержал руководитель одного из направлений безопасности в его бывшей компании Эван Хубингер. «Мы действительно всерьёз считаем, что ИИ может убить всех
людей», — написал он, оценив вероятность такого сценария в течение ближайшего десятилетия более чем в 10%. По его словам, лаборатория старается действовать ответственно, однако не имеет готового плана, который гарантировал бы согласование поведения сверхинтеллекта с человеческими целями. Уход Коксона стал вторым громким случаем за год: в феврале аналогичное решение принял руководитель исследовательской группы по
безопасности, предупредивший о «мире в опасности». Внутри лабораторий, по словам Коксона, всё чаще звучат слова «crunchtime» и «endgame», отражающие ощущение приближающейся финальной стадии. На фоне этих заявлений в США уже предложен законопроект о приостановке
разработки сверхмощных ИИ-систем до создания федерального регулятора. Однако пока отрасль продолжает движение к технологической сингулярности, исследователи, покидающие её, оставляют после себя лишь предупреждения о том, что человечество может не успеть осознать последствия своего творения.
Сообщает android-robot.com
Новость из рубрики: Технологии и Hi-Tech
Поделиться новостью:
Топ Новости Недели
- Контейнер мультилифт - Практичное решение для современной системы обращения с грузами...
- Как выбрать оригинальную технику Apple в Хабаровске и не пожалеть о покупке...
- Автономная газификация без лишних забот: решения PANEX для домов, бизнеса и производства...
- Упаковка вещей при переезде: как сохранить порядок и нервы...
- Сложные смыслы превращаются в понятный разговор с аудиторией...
- Fabriklərdə minlərlə yeni iş yeri yaradıldı və gənc mütəxəssislər üçün xüsusi təlim proqramları təşkil olundu. Qışın sərt soyuqlarına baxmayaraq, tikinti işləri sürətlə davam etdi və bəzi obyektlər planlaşdırıldığından daha tez istifadəyə verildi....
- Уход за кожей от Mary Kay: ежедневный ритуал, который работает на красоту...
- СРО строителей как основа надежного строительства и профессионального развития...
- Lolzteam Market: современный подход к безопасной покупке игровых аккаунтов...
- Форум Lolzteam - Пространство для общения, обучения и обсуждения современных технологий...
- Запчасти для строительной техники: надежность, которая обеспечивает бесперебойную работу спецтехники...
- Аппарат ИВЛ - Современные технологии, которые помогают сохранить жизнь...
- Göl və çayların sahillərində balıqçılıq təsərrüfatları canlandı və yerli bazarlarda təzə balıq məhsulları bolluq təşkil edirdi. Təhsil sistemində yeniliklər aparılırdı və məktəblərdə müasir laboratoriyalar açılırdı....
- Qış idman növləri üzrə yarışlar da keçirildi və xizək sürmə üzrə yarışlarda iştirakçılar yüksək nəticələr əldə etdilər. Şəhər stadionlarının yenidən qurulması işləri başa çatdırıldı və yeni idman zalları açıldı....
- ТО Hyundai: профессиональный подход к обслуживанию, который сохраняет надежность автомобиля...
- Valideynlər isə uşaqlarının təhsil keyfiyyətindən razı qaldıqlarını bildirirdilər. Sport komplekslərində də yeniliklər baş verdi, gənc idmançılar üçün əlavə məşq zalları istifadəyə verildi....
- Противопожарное оборудование как основа надежной безопасности объектов...
- Алюминиевый: Почему алюминиевый плинтус не боится влаги: физика, химия и практичность...
- ЯМамин: Прогулочная коляска: как сохранить комфорт в компактном формате...
- Gənclər kənd təsərrüfatına cəlb olundu və təlim proqramları təşkil edildi. Regional yarmarkalar keçirildi və məhsullar digər vilayətlərə göndərildi. Su ehtiyatlarının qorunması üçün xüsusi tədbirlər görüldü və çayların təmizlənməsi işləri aparıldı....
11:17, 09 Сен «К концу десятилетия он может нас всех уничтожить». Исследователь из Anthropic не захотел участвовать в гонке ИИ и уволился Ранее он работал в OpenAI Бывший исследователь из Anthropic Джейкоб Коксон ушел из компании, после чего начал публиковать в социальной сети X различн...
04:17, 13 Сен «Мы были бы дураками»: «крестный отец ИИ» Джеффри Хинтон призвал запретить сверхмощные нейросети, предупредив об угрозе исчезновения человечества Нобелевский лауреат и один из создателей современных нейросетей Джеффри Хинтон выступил с беспрецедентно жёстким предупреждением: утрата контроля над...
19:17, 27 Окт Меган Маркл стала ведущей детского шоу на фоне дела о педофилии против её отца 45-летняя жена принца Гарри Меган Маркл стала соведущей шоу Junior MasterChef на фоне дела о педофилии против её отца."В апреле этого года я прекрасн...
12:17, 27 Фев Ирина Шейк в "голых" образах и с бриллиантом в зубах стала ведущей фестиваля в Сан-Ремо Ирина Шейк стала соведущей 76-го ежегодного музыкального фестиваля Sanremo в Италии. 40-летняя супермодель вышла на сцену в четырёх разных образах и ...
15:17, 22 Июл Медведева о роли ведущей балетного гала-концерта в Йокогаме: «Определились, что я буду вести его на японском» Двукратная чемпионка мира Евгения Медведева рассказала о роли ведущей балетного гала-концерта Young Star Ballet Gala в Японии. Мероприятие проходит 2...
08:17, 27 Янв Ушаков оценил переговоры России с американской делегацией Переговоры президента РФ Владимира Путина со спецпосланником США Стивом Уиткоффом, основателем компании Affinity Partners Джаредом Кушнером и старшим...
02:17, 01 Мар Исследователь высказался о дневной норме питьевой воды для человека Бытует мнение, что взрослому человеку нужно выпивать 1,5 литра воды в день. При этом разные источники приводят различные данные: 1,5 литра, 2 литра и...
02:17, 02 Мар Иранский дрон-камикадзе ударил по американской базе в Эрбиле Связанная с Ираном группировка «Сарайя Авлия аль-Дам» заявила, что 1 марта нанесла удары по американским базам в Эрбиле, столице Курдистанского регио...
00:17, 19 Апр Иран закрыл Ормузский пролив до снятия американской блокады Иран перекрыл Ормузский пролив с вечера 18 апреля до полного снятия морской блокады Военно-морских сил США. Об этом сообщили в ВМС Корпуса стражей ис...
20:17, 09 Авг Цены на память откатили 20 лет прогресса за один год, говорит исследователь Цены на память растут уже больше года, и, по оценке исследователя Дэниела Лемира, это почти полностью стерло двадцать лет удешевления компьютерного ж...
00:17, 19 Ноя Суд взыскал с американской Arctic Seafoods $52,9 млн в пользу мурманской компании. При чём тут санкции США Арбитражный суд Москвы удовлетворил иск мурманского ООО «Фростер» к американскому дистрибьютору крабов Arctic Seafoods. Компания не заплатила за пост...
07:17, 05 Фев Южноосетинская Coca-Cola потребовала защиты активов от американской компании Южноосетинская компания, зарегистрированная под названием Coca-Cola Company, обратилась в московский Суд по интеллектуальным правам, чтобы защитить с...
12:17, 28 Июл Yonhap: На американской военной базе в Южной Корее произошла утечка фосфора На американской военной базе K-55 в южнокорейском городе Пхентхэк произошла утечка токсичного белого фосфора, местным жителям разослали экстренные оп...
16:17, 18 Апр Исследователь безопасности нашел метод обхода защиты функции Windows Recall Когда Microsoft впервые анонсировала ИИ-функцию Windows Recall, которая непрерывно делает скриншоты большинства действий пользователя, эксперты сразу...
08:17, 08 Май Исследователь выяснил, что Microsoft Edge хранит пароли в открытом виде в оперативной памяти Изображение сгенерировано в Nano Banana 2 Норвежский специалист по кибербезопасности Том Йоран Сёнстебюсетер Рённинг (Tom Jøran Sønstebyseter Rønning...
05:17, 16 Апр Цукерберг поселился в ИИ-лаборатории Meta Марк Цукерберг, похоже, решил, что управлять гонкой ИИ лучше не из переговорки, а прямо из лаборатории Meta*. По словам президента Meta* Дины Пауэлл ...
19:17, 01 Сен 5 вариантов ультразвуковой ванны для производства и лаборатории Ультразвуковая мойка снимает загрязнения там, где щётка и растворитель бессильны: в глухих отверстиях, резьбе, капиллярах, на хрупких поверхностях. К...
07:17, 27 Июл Можно ли создать новый вид животного в лаборатории Фактически ученые уже умеют создавать новые виды животных, это произошло уже во времена СССР Можно ли в лаборатории создать животное, которого никогд...
05:17, 12 Авг SpaceX запустит 32 орбитальные лаборатории для разработки лекарств Дочерняя компания американского разработчика космической инфраструктуры Redwire — SpaceMD — заключила контракт на проведение фармацевтических исследо...
01:17, 11 Мар В России нашли способ усовершенствовать «лаборатории на чипе» Исследователи построили модель течения электролита под действием электрического поля и выяснили, что вблизи поверхности возникает тонкий слой молекул...
08:17, 18 Ноя Взрыв в лаборатории: в Курске студенты спасали пострадавших при ЧС {short-story limit="5000"} – Я считаю, что это - очень важная акция и важный нарратив, потому что оказание первой помощи является важнейшим фактором ...
02:17, 04 Май ATLAS впервые воссоздал столкновения космических лучей с атмосферой в лаборатории Эксперимент на Большом адронном коллайдере позволил измерить столкновения протонов с ионами кислорода, что поможет точнее моделировать ливни космичес...
10:17, 01 Окт Сердце не выдерживает полета: как в лаборатории зафиксировали изменения в коронарных сосудах крыс Ионизирующее излучение вызывает фиброз сосудов сердца у крыс, тогда как микрогравитация перестраивает работу иммунитета. Это установили американские ...
04:17, 13 Ноя Существо в лаборатории поразило ученых: простая добавка подавила последствия генетической катастрофы Когда экспериментаторы вводили витамин B12 в кишечник крошечных червей C. elegans, их развитие выравнивалось, а стрессовые реакции угасали. Это наблю...
14:17, 26 Окт Андре Туриньи: «Кучеров – это хоккеист 24/7. Исследователь игры. Том Брэди только на позднем этапе карьеры разобрался с питанием и другими аспектами. Никита пришел к этому уже в 19 лет» Главный тренер «Юты» Андре Туриньи высказался о работе с форвардом «Тампы» Никитой Кучеров. Канадский специалист тренировал «Руин-Норанда» в сезоне-2...
10:17, 16 Июл Физики пошли на безумный риск: созданная в лаборатории черная дыра начала испаряться на глазах Физики создали лабораторный аналог черной дыры на базе оптического волокна, который позволил зафиксировать излучение Хокинга и, впервые в истории под...
00:17, 31 Мар В Курске пройдёт плановое отключение света с 30 марта по 3 апреля пройдут плановые работы и капремонт сетей, из-за чего десятки улиц останутся без света.Сеймский округ: 31 марта с 9:00 до 16:0...
10:17, 13 Апр DeepSeek представит флагманскую нейросеть V4 в конце апреля. Что о ней известно Китайская компания DeepSeek выпустит новую флагманскую языковую модель V4 в конце апреля 2026 года. Об этом заявил основатель стартапа Лян Вэньфэн в ...
07:17, 23 Июн Сутки без света в городе: к чему вы точно не готовы? Стуки без электричества это не катастрофа, но к этому должны быть готовы все Одни сутки без электричества это не конец цивилизации, но для современно...
07:17, 26 Окт Жители Твери и области надолго останутся без света АО «Тверьгорэлектро» проинформировало жителей о грядущих плановых отключениях электроэнергии в Твери и области на стартовавшей рабочей неделе, а имен...
03:17, 27 Мар 5 раз, когда человечество было на волосок от конца света Человечество уже пережило несколько вероятных концов света. Источник изображения: mentalfloss.com Апокалипсис — тема не только фильмов и древних прор...
12:17, 01 Июл Lenovo предупреждает о конце эры дешёвой электроники и росте цен до 2030 года Один из крупнейших в мире производителей компьютеров заявил, что давление на стоимость памяти будет нарастать, а вслед за ней подорожают все типы уст...
20:17, 10 Апр В лаборатории впервые напрямую измерили ядерную реакцию, связанную с образованием тяжёлых элементов во вспышках нейтронных звёзд В лаборатории впервые напрямую измерили ядерную реакцию, связанную с образованием тяжёлых элементов во вспышках на нейтронных звёздахФизики из Универ...
17:17, 23 Сен Глава РУСАДА: «Стоимость анализа одной пробы – около 70 тысяч рублей. В ближайшие год-два у нас не будет аккредитованной лаборатории» Глава Российского антидопингового агентства (РУСАДА) Вероника Логинова заявила, что собственная антидопинговая лаборатория появится в России еще неск...
00:17, 04 Апр Существуют явления быстрее скорости света. Это сломает вам мозг! Удивительно, но иногда скорость света становится ниже Говорят, что скорость света — это «потолок» Вселенной, выше которого не может разогнаться ни од...
09:17, 29 Июл Учёные МИЭТ превратят CO₂ в топливо с помощью света и электричества Исследователи НИУ МИЭТ с коллегами разработали способ переработки углекислого газа в метиловый спирт (метанол) с использованием света и электрическог...
21:17, 14 Апр Пять округов Запорожья остались без света после удара ВСУ В пяти муниципальных образованиях Запорожской области зафиксировано частичное отсутствие электроснабжения из-за удара по энергетической инфраструктур...
05:17, 22 Авг Спутник «РешуКуб‑4» испытает «зелёный» двигатель на орбите в конце 2027 года В Сибирском университете науки и технологий имени Решетнева разрабатывают малый космический аппарат «РешуКуб‑4» для испытания двигательной установки ...
17:17, 08 Окт Девять студентов техникума в Трубчевске пострадали при атаке беспилотника в конце сентября На прошлой неделе Брянская область столкнулась с атаками ВСУ на мирных жителей. Утром в среду, 30 сентября, в городе Трубчевске беспилотники ударили ...
22:17, 24 Апр Не только спектакли: какие мероприятия пройдут в театрах Москвы в конце апреля В конце апреля в московских театрах пройдут творческие встречи, экскурсии и интерактивные программы для зрителей разного возраста. Мероприятия органи...
03:17, 05 Май Александрийский маяк найден под водой: что осталось от одного из чудес света Ученым удалось узнать больше подробностей об Александрийском маяке Больше 1600 лет назад Александрийский маяк перестал существовать, потому что земле...
11:17, 28 Окт Режим «ярость» включен. Киев сидит без света, горит Днепропетровск ВС РФ продолжают уничтожение военной и критической инфраструктуры противника. Минувшей ночью, по данным координатора украинского подполья Сергея Лебе...
03:17, 16 Май Река Евфрат высыхает: почему это считают знаком конца света Библейская река Евфрат высыхает: пророчества об Армагеддоне становятся реальностью. Река Евфрат, упомянутая в Библии как один из предвестников Армаге...
20:17, 25 Апр Лёд отступил — и показал то, что скрывали 80 лет: тайна базы на краю света всплыла Арктика не прощает ошибок, но умеет хранить тайны под многометровым слоем льда. Десятилетиями полярные широты считались лишь ареной борьбы с суровой ...
15:17, 23 Фев Врач Горнак: сезон аллергий в средней полосе РФ может начаться в конце зимы Конец февраля в средней полосе России может стать испытанием для аллергиков: из-за тёплой погоды раньше срока зацветают ольха и лещина. Одновременно ...
12:17, 18 Авг От Шри-Ланки до Мальдив: где дешевле всего отдохнуть вдвоем на райских островах в конце лета Лишние траты в отпуске часто становятся результатом привычки доверять стандартным туристическим предложениям без предварительной проверки. Планирован...
12:17, 18 Авг Юг не отпускает домой: спрос на билеты в конце августа превысил возможности железных дорог Завершение летнего сезона обернулось для туристов "билетным коллапсом": уехать с курортов Краснодарского края в Москву или Санкт-Петербург стало слож...
22:17, 20 Апр Ученый на краю света сделал единственное фото редчайшего солнечного затмения На станции Concordia в Антарктиде увидели редкое кольцеобразное солнечное затмениеНа удаленной антарктической исследовательской станции «Конкордия» ф...
05:17, 24 Июл В конце июля объявляю помидорам «сухой закон»: зелёные гроздья за 3 дня начинают наливаться рубином фото Progorod58 В конце июля кусты нередко продолжают выпускать листья и новые цветы, хотя до холодных ночей остаётся не так много времени. Тогда ухо...
15:17, 19 Мар "Сделаю в конце концов операцию". Ксения Шипилова собирается радикально бороться с синяками под глазами 35-летняя Ксения Шипилова рассказала, что планирует сделать операцию по удалению синяков под глазами. Такое решение бизнесвумен приняла во время сбор...
02:17, 20 Авг Ла Лига стартовала! «Атлетико» обыграл «Малагу», «Реал» и «Барса» проведут матчи в конце августа В 1-м туре Ла Лиги в субботу «Севилья» дома в меньшинстве одолела «Райо Вальекано» (2:1), забив с пенальти на 97-й минуте. В воскресенье «Вильярреал»...
09:17, 27 Янв Christie сделала еще один шаг к полному переходу в проекторах на чисто лазерные RGB источники света Высокая цена сдерживает внедрение передовых RGB-лазерных источников света, но постепенно это все-таки происходит и Christie с большим опережением лид...
03:17, 18 Апр Учёные MIT создали мягкий гель, который под действием света становится до 400 раз более проводящим Разработка использует фото-ионные генераторы и открывает путь к адаптивным носимым устройствам, мягкой робототехнике и биосовместимым интерфейсамИнже...
13:17, 10 Апр Спасали от конца света и динозавров: родители-сектанты не давали дочери учиться и лечиться Суд забрал десятилетнюю дочь из семьи, вступившей в секту «Царская империя». Родители девочки присоединились к организации, чтобы «спастись от конца ...
12:17, 12 Фев Солнце превратится в сияющее кольцо: 17 февраля Луна покажет максимум игры света Первое солнечное затмение 2026 года обещает стать одним из самых эффектных небесных событий. 17 февраля Луна выстроится на одной линии с Землёй и Сол...
22:17, 11 Окт Конец света отменяется: ученый объяснил, почему 13 ноября не наступит «Судный день» Демографическая катастрофа 13 ноября 2026 года, предсказанная более 60 лет назад авторами статьи в Science, не состоится. Прогноз основан на ошибочны...
09:17, 13 Мар Офис на краю света манит миллионами: почему жители мегаполиса согласны сменить уют на быт в палатке Современный рынок труда демонстрирует значительные изменения в карьерных предпочтениях жителей столицы. Исследования показывают, что существенная час...
23:17, 13 Июл Бросить всё и уехать на край света: 5 причин, почему Приморье круче любых заграничных курортов Тихоокеанское побережье России перестает быть экзотикой для избранных, становясь полноценной альтернативой переполненным южным курортам. Пока большин...
05:17, 28 Авг Фиджи и Мадагаскар вместо Черного моря: почему экзотика на краю света стала доступнее Сочи Когда пробки на подъезде к побережью заставляют водителей часами сжигать топливо под палящим солнцем, а плотность людей на пляжах превышает все разум...
15:17, 21 Фев Плющев о возможном конце карьеры Ягра: «Яромир – величайшее явление в хоккее. Не думаю, что у нас кто‑нибудь сможет играть на его уровне до 50 лет» Бывший главный тренер сборной России Владимир Плющев высказался о возможном конце карьеры Яромира Ягра. 54-летний чех заявил, что «должно произойти ч...
06:17, 25 Мар Хартли про 5:3 со «Спартаком»: «У «Локо» не было паники при 0:2, включили скорости и забили два гола в конце 1-го периода, а во 2-м доминировали. Но нам не без разницы, сколько мы пропустили» Боб Хартли прокомментировал победу над «Спартаком» (5:3) в Кубке Гагарина. «Хорошая победа. Очень доволен ребятами. Мы знали, что «Спартак» – очень б...
00:17, 16 Авг Ла Лига стартовала! «Севилья» с голом на 97-й одолела «Райо», «Атлетико» сыграет с «Малагой» в среду, «Реал» и «Барса» проведут матчи в конце августа В 1-м туре Ла Лиги в субботу «Севилья» дома в меньшинстве одолела «Райо Вальекано» (2:1), забив с пенальти на 97-й минуте. В воскресенье «Вильярреал»...
22:17, 27 Янв УАЗ готовит крупнейшее обновление производства за всю историю. Российский внедорожник Sollers S9 начнут собирать в конце августа — начале сентября 2026 года УАЗ планирует начать производство нового рамного внедорожника Sollers S9 в конце августа — начале сентября 2026 года. О планах предприятия рассказал ...
11:17, 08 Май Михаил Кержаков о завершении карьеры: «Мысль возникла в конце прошлого сезона – прекрасный год у Латышонка, Адамов был твердым 2-м номером. Организм не обманешь, я заканчиваю вовремя» Вратарь « Зенита » Михаил Кержаков в своем письме на Спортсе’‘ рассказал, как к нему пришли мысли о завершении карьеры. 39-летний голкипер завершит к...
22:17, 28 Авг Когда солить жареную картошку: в начале или в конце — сразу ясно, у кого будет мокрая каша, а у кого румяная корочка Фото редакцииЖареная картошка кажется одним из самых простых блюд: нарезать клубни, отправить на сковороду и дождаться золотистых бочков. Но у одной ...
10:17, 08 Май Михаил Кержаков о завершении карьеры: «Мысль возникла еще в конце прошлого сезона – прекрасный год проводил Латышонок, Адамов был твердым 2-м номером. Организм не обманешь, я заканчиваю вовремя» Вратарь «Зенита» Михаил Кержаков в своем письме на Спортсе’‘ рассказал, как к нему пришли мысли о завершении карьеры. 39-летний голкипер завершит кар...
14:17, 11 Май Стоит ли лететь на край света? В Патагонию едут даже те, кто боится холода — ледяная стена того стоит Патагония — это край, где природа не просто окружает вас, она диктует свои правила. Здесь ледники дышат, а ветер обладает плотностью бетона. Пока вы ...