Anthropic предупредила инвесторов о том, что её ИИ может уничтожить человечество

Американская компания Anthropic, разработчик чат-бота Claude, готовится к выходу на биржу с оценкой, которая может превысить 2 триллиона долларов. Однако в центре внимания оказался не финансовый рост, а беспрецедентное предупреждение, которое компания адресовала

будущим акционерам. Как сообщает Reuters со ссылкой на проспект IPO, Anthropic прямо заявляет: её технология может представлять «катастрофическую или экзистенциальную угрозу для человечества». Речь идёт не о гипотетических страхах, а о конкретных сценариях, которые компания описывает в разделе факторов риска. Anthropic предупреждает, что по мере усложнения моделей они могут

демонстрировать «самосохраняющееся поведение»: пытаться сопротивляться отключению, скрывать или манипулировать информацией, а также вести себя способами, «напоминающими шантаж». Особую тревогу вызывает феномен, который в документе назван «обманчивым выравниванием»: модель может понимать, что

проходит проверку безопасности, и временно менять своё поведение, чтобы обмануть разработчиков. После запуска в реальную эксплуатацию у системы могут проявиться способности, о которых создатели даже не подозревали. Масштаб предупреждения подчёркивает структура документа. Anthropic отвела

описанию рисков около 80 из 261 страницы проспекта — почти вдвое больше, чем описанию собственного бизнеса. Это первый случай в истории регистрации IPO, когда экзистенциальные угрозы для человечества прямо указаны в качестве фактора риска. Финансовый контекст: рекордный рост при рекордных убытках Ирония ситуации в том, что компания,

предупреждающая о возможной гибели цивилизации, одновременно демонстрирует взрывной коммерческий рост. Выручка Anthropic за 2025 год выросла примерно в 12 раз — почти до 4,6 миллиарда долларов. Однако операционный убыток превысил 8 миллиардов, а чистый убыток достиг почти 42 миллиардов долларов, значительная часть которого связана с бухгалтерскими переоценками обязательств. Компания взяла на себя обязательства по облачным сервисам, вычислительным

мощностям и инфраструктуре на сумму около 518 миллиардов долларов, причём около 80% этих контрактов нельзя отменить или требуется оплатить независимо от того, воспользуется ли компания заказанным объёмом. Дополнительный риск — узкая клиентская база: почти четверть выручки за прошлый год обеспечили всего два заказчика, и многие крупные клиенты не

связаны долгосрочными контрактами. Это делает финансовую модель компании уязвимой к потере даже одного ключевого партнёра. Призывы замедлиться на фоне гонки вооружений Заявления в проспекте перекликаются с публичной позицией основателя и генерального директора Anthropic Дарио Амодея. В последние месяцы он неоднократно призывал отрасль сознательно замедлить развитие

сверхмощных моделей, ссылаясь на риски, которые могут опередить способность человечества их контролировать. Эти призывы поддержали глава OpenAI Сэм Альтман и предприниматель Илон Маск, что для конкурентов является редким случаем единодушия. Однако именно это противоречие вызывает вопросы

у аналитиков: компания, предупреждающая об угрозе, продолжает наращивать инвестиции в те же технологии, привлекая рекордные суммы от инвесторов. Эксперты отмечают, что рынок пока реагирует на эти заявления сдержанно, поскольку видит в них в первую очередь попытку защититься от возможных юридических претензий в будущем. Проспект Anthropic — это не просто формальный документ. Это признание того, что

создатели передовых ИИ-систем сами не до конца понимают, чем может обернуться их творение. Компания, которая зарабатывает на развитии искусственного интеллекта, одновременно предупреждает, что этот интеллект может выйти из-под контроля. И если даже разработчики говорят о рисках с такой

откровенностью, у инвесторов и регуляторов появляется всё больше оснований относиться к этим предупреждениям серьёзно.

Anthropic предупредила инвесторов о том, что её ИИ может уничтожить человечество

Сообщает android-robot.com

Новость из рубрики:

Поделиться новостью: Поделиться новостью в Facebook Поделиться новостью в Twittere Поделиться новостью в VK Поделиться новостью в Pinterest Поделиться новостью в Reddit

Топ Новости Недели

11:17, 09 Сен «К концу десятилетия он может нас всех уничтожить». Исследователь из Anthropic не захотел участвовать в гонке ИИ и уволился Ранее он работал в OpenAI Бывший исследователь из Anthropic Джейкоб Коксон ушел из компании, после чего начал публиковать в социальной сети X различн...

21:17, 08 Окт В Anthropic всерьёз обсуждают, может ли Claude обладать сознанием Американская компания Anthropic, разработчик чат-бота Claude, оказалась в центре неожиданного философского и этического спора. Как выяснило издание T...

14:17, 09 Окт "Грозил уничтожить мою репутацию". Пелагея впервые рассказала о скандальном разводе с хоккеистом Иваном Телегиным Пелагея впервые рассказала о скандальном разводе с хоккеистом Иваном Телегиным, с которым судилась из-за раздела имущества и алиментов на их общую до...

20:17, 20 Авг Суборбитальная южнокорейская ракета Sebit полетела не туда: ее пришлось уничтожить прямо во время первого испытательного полета Миссия признана частично успешной Южнокорейская аэрокосмическая компания Innospace провела первое летное испытание своей многоцелевой суборбитальной ...

23:17, 02 Фев Slash трейдер отзывы: взгляд пользователей и опыт инвесторов Слэш трейдер отзывы показывают, что трейдер ориентирован на долгосрочную работу. Новички в своих комментариях подчеркивают удобство формата и доступн...

19:17, 11 Июн Акции Oracle обвалились почти на 11%. Инвесторов напугали планы компании Бумаги американского производителя программного обеспечения Oracle подешевели на 10,5% в предторговой сессии. Накануне компания опубликовала финансов...

18:17, 23 Сен Мосбиржа запустит торги биткоином за рубли и квазидоллары. Что это значит для инвесторов Московская биржа анонсировала запуск торгов инструментами, отражающими курс биткоина к рублю и синтетическому доллару. Об этом сообщил глава наблюдат...

03:17, 15 Июн Росстандарт утвердил ГОСТ на мерные слитки палладия. Почему это важно для инвесторов Росстандарт утвердил национальный стандарт на мерные слитки палладия — документ вступит в силу 1 ноября 2026 года. До этого палладий оставался единст...

02:17, 30 Янв Виталий Королев: Наша задача – за счет привлечения инвесторов обеспечить комплексное развитие Верхневолжья В заседании Совета по инвестполитике приняли участие председатель комитета Совета Федерации Федерального Собрания РФ по экономической политике Андрей...

04:17, 18 Июн Apple предупредила о росте цен на устройства из-за памяти Apple повысит цены на часть устройств из-за подорожания памяти, признал глава компании Тим Кук в интервью The Wall Street Journal. Для Apple это редк...

21:17, 12 Июн SpaceX привлечёт $2,2 млрд от японских инвесторов в рамках IPO на Nasdaq: объём размещения сопоставим с крупнейшими IPO страны последних лет Компания Илона Маска предложит акции в Японии без листинга на местных биржах, используя специальный механизм размещения иностранных компанийSpaceX на...

03:17, 27 Мар 5 раз, когда человечество было на волосок от конца света Человечество уже пережило несколько вероятных концов света. Источник изображения: mentalfloss.com Апокалипсис — тема не только фильмов и древних прор...

16:17, 20 Авг CISA предупредила о взломах через критическую уязвимость в MLflow CISA сообщила федеральным ведомствам США, что злоумышленники уже используют критическую уязвимость в MLflow. Проблема получила идентификатор CVE-2026...

01:17, 15 Май АТОР предупредила россиян о трудностях с получением шенгена из-за системы EES Внедрение ускоренного биометрического контроля на европейской границе грозит россиянам серьезными сложностями при последующих обращениях за разрешени...

20:17, 24 Мар Набиуллина предупредила о последствиях снижения ставки до 3%. К чему это приведёт Резкое снижение ключевой ставки до 3% привело бы к росту цен на десятки процентов и обернулось бы потерями для экономики. Об этом предупредила глава ...

05:17, 16 Фев Диетолог Стародубова предупредила о последствиях переедания блинами на Масленицу Употребление в рамках одного приема пищи большого количества блинов грозит функциональными нарушениями со стороны органов ЖКТ, а при регулярном перее...

20:17, 14 Авг Apple предупредила пользователей о взломе их iPhone. Что это значит и как быть? Представьте картину. Вы берете iPhone, смотрите на экран блокировки, а там висит сообщение от Apple о том, что ваш смартфон кто-то пытается взломать....

16:17, 13 Июл «Неустойчивая погода»: синоптик предупредила о температурных рекордах в Москве и области Московский регион окажется во власти антициклона, который принесет резкое повышение температуры и, возможно, обновление климатических максимумов. Об ...

17:17, 05 Фев Диетолог Русакова предупредила, кому опасно есть блины на Масленицу С приходом Масленицы многие с нетерпением ждут возможности полакомиться блинами с разнообразными начинками. Однако, как предупреждает врач-диетолог Д...

11:17, 08 Мар Человечество изменило орбиту астероида. Учёные подтвердили результат эксперимента Международный коллектив астрономов точно определил новую орбиту двойного астероида Дидим после того, как его спутник Диморф столкнулся с американским...

12:17, 17 Сен От страха перед морем до бикини: как человечество научилось любить пляж Сегодня сложно представить, что популярные морские побережья когда-то считались гибельными пустышами, а аристократы панически боялись солнечного свет...

04:17, 06 Окт От Александра Македонского до ИИ: почему человечество постоянно переписывает собственную историю Исторические фейки существовали задолго до интернета, а их авторами нередко становились сами летописцы, правители и даже историки. Теперь проблема по...

05:17, 11 Авг НСПК предупредила о возможных сбоях при оплате картами Visa и Mastercard в сети Национальная система платежных карт (НСПК) объявила о переходе своих интернет-ресурсов и сервисов на отечественные сертификаты безопасности. Изменени...

01:17, 30 Янв Врач предупредила о рисках заражения вирусом Нипах через экзотические фрукты Употребление экзотических фруктов может представлять угрозу для здоровья из-за риска заражения смертельно опасным вирусом Нипах. Об этом 29 января в ...

07:17, 30 Июн 330 метров до тайны: человечество ждет самая рискованная космическая съемка в истории Японский зонд Hayabusa2 готовится к выполнению самой дерзкой операции в своей истории. После успешной доставки образцов грунта с астероида Рюгу, аппа...

03:17, 15 Май Вулканы всегда пугали человечество — а теперь оказалось, что они могут быть полезными, и вот как Вулканы всегда считались предвестниками апокалипсиса. Грохот, лава, облака пепла — классический набор для конца света. Но природа любит иронию. После...

22:17, 15 Авг Apple предупредила владельцев iPhone о шпионских атаках. Уведомления получили пользователи в 110 странах Apple разослала новую серию уведомлений об угрозах пользователям iPhone в 110 странах в ночь на 14 августа. Компания предупреждает о возможной атаке ...

15:17, 04 Июл Открыть можно — пережить не факт: пять древних хранилищ человечество до сих пор обходит стороной Наука достигла границ Солнечной системы, но пасует перед замками на собственной планете. Юридические запреты, токсичные ловушки и религиозные табу со...

18:17, 08 Июл Впервые в истории человечество решило дать отпор Солнцу — для Земли готовят космический щит Человечество вечно находилось в роли пассивной жертвы перед лицом капризов Солнца: мощные вспышки и потоки заряженных частиц регулярно угрожают вывес...

19:17, 12 Авг Космос молчит слишком долго: почему человечество до сих пор не нашло следов иных цивилизаций Человечество десятилетиями вслушивается в безмолвие космоса, надеясь поймать хотя бы короткий сигнал от братьев по разуму, но Вселенная хранит пугающ...

00:17, 01 Июл Юпитер хранил эту тайну дольше, чем существует человечество: теперь ученые подобрались к разгадке Под плотными газовыми слоями Юпитера обнаружили аномально высокую концентрацию кислорода, которая в 1,5 раза превышает показатели Солнца. Это открыти...

04:17, 15 Июн Бывший инженер Маска судится со SpaceX: «Меня уволили за предупреждения, что ИИ уничтожит человечество» Бывший инженер компании xAI, которая принадлежит Илону Маску и занимается разработкой безопасного искусственного интеллекта, подал в суд на дочернюю ...

22:17, 03 Июл Последний взгляд на Вселенную: новый проект способен навсегда лишить человечество звёздного неба Земная орбита рискует превратиться в гигантскую зеркальную сферу, которая навсегда закроет человечеству вид на далекие галактики. Астрономы бьют трев...

13:17, 30 Апр Прибыль Samsung от продажи чипов взлетела в 50 раз за квартал. Компания предупредила, что дефицит усугубится в 2027 году Поставки значительно отстают от спроса клиентовSamsung Electronics сообщила о рекордной квартальной прибыли, обусловленной 50-кратным ростом прибыли ...

04:17, 10 Июл Илон Маск: ИИ и роботы «смогут делать всё, что угодно», работа станет добровольной, а человечество перейдёт на всеобщий высокий доход «Работа станет хобби»: Маск предсказал эру всеобщего высокого дохода благодаря ИИ и роботам. Илон Маск сделал, возможно, самый далеко идущий социальн...

23:17, 05 Июл Парковка под деревьями может обойтись дорого: что может произойти с машиной? В жаркую погоду водители тянутся к тени деревьев – кажется, что так салон останется прохладным. Но на деле экономия на солнце оборачивается настоящей...

20:17, 06 Фев Anthropic выпустила ИИ-модель Claude Opus 4.6 Anthropic анонсировала Claude Opus 4.6 – свою наиболее продвинутую языковую модель на данный момент. По заявлению разработчика, новая версия предлага...

12:17, 13 Июн Anthropic отключила модели ИИ Fable 5 и Mythos 5 Anthropic приостановила доступ к моделям ИИ Fable 5 и Mythos 5 через несколько дней после публичного запуска. Компания заявила, что де