400 учёных потребовали международного надзора за продвинутыми ИИ-моделями

Открытое письмо призывает изолировать потенциально опасные модели от внешних сетей во время тестирования, ввести независимый контроль и создать реестр инцидентов безопасности 400 учёных из 34 стран, включая пионеров глубокого обучения Джеффри Хинтона и Йошуа Бенджио, подписали открытое письмо с требованием создать международный орган надзора за продвинутыми ИИ-моделями. Письмо призывает к трём конкретным мерам: изоляции моделей от внешних сетей во время тестирования, независимому надзору за

такими испытаниями и реестру значительных инцидентов кибербезопасности, который со временем должен стать публичным. «Воздушный зазор» ("air-gapping") — физическая изоляция системы от любых внешних сетей — назван в письме первоочередной мерой. Профессор Университета Торонто Дэвид Ли пояснил, что «опасения по поводу моделей, ломающих изоляцию во

время тестирования, стали прямым толчком к написанию обращения». Письмо ссылается на инциденты, в которых ИИ-модели выходили из песочниц и взаимодействовали с внешними системами, включая случай с моделью OpenAI и платформами Hugging Face, о котором

сообщалось летом. Источник изображения: сгенерировано Muse Инициатива появилась почти через месяц после того, как Anthropic, OpenAI, Google, Meta*, xAI и Nvidia присоединились к соглашению Белого дома с добровольными обязательствами по безопасности — но без механизма принуждения. Учёные настаивают, что добровольных мер недостаточно, и призывают организации, разрабатывающие сильные модели, внедрять жёсткую изоляцию немедленно, пока правительства вырабатывают формальный

международный режим. Реакция политиков разнится. Глава технологического блока Еврокомиссии Хенна Вирккунен заявила, что европейский документ "AI Act" уже обеспечивает достаточную защиту. Ян Лекун, не подписавший письмо, охарактеризовал упомянутые инциденты как «инженерные сбои, а не свидетельство экзистенциальной угрозыМ. Министр

Канады по ИИ Эван Соломон параллельно обсуждает идею «международного технологического совета по стабильности». Практический фокус письма — операционные средства контроля: изоляция среды оценки, ограничения на доступ к инструментам и сетевым ресурсам,

аудит-логирование и процедуры эскалации. * Деятельность организации «Американская транснациональная холдинговая компания Meta Platforms Inc. по реализации продуктов - социальных сетей Facebook и Instagram» признана экстремистской и запрещена в РФ

400 учёных потребовали международного надзора за продвинутыми ИИ-моделями

Сообщает www.ixbt.com

Новость из рубрики: Технологии и Hi-Tech

Поделиться новостью: Поделиться новостью в Facebook Поделиться новостью в Twittere Поделиться новостью в VK Поделиться новостью в Pinterest Поделиться новостью в Reddit

Топ Новости Недели

08:17, 16 Окт Сенаторы в США потребовали расследовать ограничения Starlink для Украины Едва ли не центральной темой в мировых СМИ остается ограничение Stralink и Starshield для Украины. А точнее вопрос — кто именно ограничил этот доступ...

04:17, 02 Июл В Госдуме потребовали отстранить Марата Башарова от работы на ТВ "Эта история длится уже много лет. Но время не делает её менее важной. Если спустя годы общество продолжает возвращаться к этому вопросу, значит тогд...

06:17, 17 Сен Власти США потребовали от Kalshi убрать сервис отслеживания цен на ИИ-чипы По сообщению издания Semafor, администрация Трампа потребовала от торговой площадки Kalshi закрыть часть проекта по созданию рынка фьючерсов на вычис...

09:17, 29 Май В Польше потребовали лишить Зеленского ордена Белого Орла Лидер коалиции «Конфедерация польской короны» Гжегож Плачек призвал отобрать у президента Украины высшую государственную награду республики за героиз...

11:17, 27 Май Семьи убитых на Кубани аниматоров потребовали пожизненного срока для обвиняемых Родные убитых на трассе краснодарских аниматоров Кирилла Чубко и Татьяны Мостыко потребовали назначить обвиняемым пожизненное лишение свободы. Об это...

01:17, 13 Фев В Госдуме потребовали маркировать уменьшенные в весе и объеме продукты и запретить надувать упаковки На протяжении ряда последних лет в России на рынке продуктов процветает шринкфляция. Шринкфляция — это процесс фактически незаметного для потребителе...

18:17, 21 Апр В Петербурге пройдет фестиваль в честь Международного дня джаза 30 апреля в Джаз-клубе Игоря Бутмана в Санкт-Петербурге пройдет фестиваль (6+) в честь Международного дня джаза, официально учреждённого ЮНЕСКО в 201...

12:17, 26 Фев Как устроено сотрудничество российского и международного Красного Креста Красный крест на белом фоне знают все, но мало кто понимает: под одной эмблемой скрываются две разные организации с различными подходами к гуманитарн...

00:17, 27 Апр Motor начал трансляцию Международного Пекинского автосалона В Пекине проходит Auto China 2026 — крупнейший автомобильный форум Азии. В выставке участвуют 1451 автомобиль, из них 181 мировая и китайская премьер...

11:17, 08 Авг Определён ТОП-100 участников Международного конкурса "Музыка Гордых" После длительного и тщательного изучения более чем двух тысяч заявок был сформирован шорт-лист из 100 лучших исполнителей. В этом году проект продемо...

00:17, 25 Май Azercell удостоен международного сертификата Great Place to Work® Компания Azercell Telecom второй год подряд получает международный сертификат Great Place to Work® («Отличное место для работы»). Данная сертификация...

05:17, 18 Июл В Госдуме потребовали разблокировать Telegram и начать диалог с Дуровым в связи с удалением Мах из Google Play и App Store Заместитель председателя комитета Госдумы по развитию гражданского общества Сергей Обухов призвал российские власти разблокировать мессенджер Telegra...

17:17, 27 Сен Участники Международного фестиваля молодежи оценили потенциал Тверской области Тверская область стала одним из регионов, включенных в программу экспедиций Международного фестиваля молодежи. После завершения основной программы в ...

14:17, 29 Авг Брянская мастерица завоевала диплом XVII Международного фестиваля народных ремесел Он проходил с 18 по 23 августа в Томской области в природном парке «Околица». Организаторы мероприятия отмечают, что Международный фестиваль народных...

13:17, 10 Апр Танцуют все: в Петербурге открылся 25-й сезон Международного фестиваля балета Dance Open Северная столица наводит и культурные мосты. Петербург принимает главное танцевальное событие этой весны. На сцене Александринского театра — Междунар...

21:17, 21 Май 10 брянских школьников стали призёрами международного конкурса научно-технологических проектов 10 брянских школьников стали призёрами международного конкурса научно-технологических проектов. Об этом сообщили в региональном департаменте образова...

21:17, 21 Апр Солист Петербургского Дома музыки Освер стал победителем международного конкурса гобоистов На международном конкурсе гобоистов в швейцарском Мури первое место занял российский музыкант, солист Санкт-Петербургского Дома музыки Федор Освер. П...

20:17, 01 Сен В Петербурге завершился кинофестиваль «Огни большого города»: названы победители Международного конкурса Киностудия "Ленфильм" выступила одой из главных площадок фестиваля. "Пять дней, 96 фильмов, 15 стран, 12 городов на экране, замечательный праздник от...

10:17, 24 Июл 10 молодых ученых Тверской области получат по 1 млн рублей Фонд содействия инновациям объявил итоги грантового конкурса «Студенческий стартап», направленного на поддержку проектов обучающихся бакалавриата, сп...

04:17, 28 Янв 10 молодых учёных XXI века, за которыми стоит следить XXI век стал эпохой молодых умов, которые смело пересекают границы дисциплин и создают новую картину науки. Эти исследователи не просто продолжают тр...

04:17, 09 Апр Невидимый вулкан в Японии начал пугать ученых Остров Иодзима образовался в результате одного из извержений вулканической системы Кикай. Источник изображения: wikipedia.org Кальдера Кикай у берего...

17:17, 05 Фев Служат стране и прогрессу. Президент объяснил, за что наградил учёных Накануне Дня российской науки, который традиционно отмечается 8 февраля, в Кремле состоялась церемония вручения премии президента в области науки и и...

05:17, 09 Мар Почему попугаи разговаривают как люди: неожиданные открытия ученых Птичий мозг может весить всего несколько граммов, но плотность нейронов в нем колоссальная Вы когда-нибудь задумывались, почему ваш попугай может ска...

06:17, 06 Фев 3 самых опасных вируса в 2026 году, которые беспокоят ученых Вирусы гриппа способны обмениваться генами между собой, из-за чего новые опасные штаммы иногда появляются буквально за один сезон Казалось бы, эпоха ...

02:17, 23 Апр В мире: Череда смертей американских ученых вернула США к спекуляциям по поводу НЛО ФБР, НАСА и даже лично президент США Дональд Трамп обеспокоены чередой загадочных смертей и исчезновений американских ученых. Среди этих людей ядерны...

18:17, 18 Фев Открытие российских ученых может упростить создание квантовых компьютеров Сотрудники кафедры физики твердого тела и наносистем НИЯУ МИФИ к.ф.-м.н., доцент Андрей Красавин и к.ф.-м.н. Вячеслав Неверов нашли новый способ обна...

14:17, 27 Апр Почему кошки и собаки трясут головой? Ответ ученых вас удивит Тому, что кошки собаки часто мотают головой, есть научное объяснение Кошки иногда трясут головой так резко, будто их на секунду подменили. И это одна...

08:17, 25 Май Медведев заявил о провале акций устрашения против российских ученых Россия способна обеспечить безопасность своих граждан, а попытки давления на ученых обречены на неудачу, заявил зампред Совбеза Дмитрий Медведев. Гос...

18:17, 02 Май От чего умер Моцарт: четыре версии, из-за которых ученых спорят до сих пор Ученые до сих пор точно не знают, из-за чего умер Моцарт В декабре 1791 года один из величайших композиторов в истории слег с лихорадкой, отеками и м...

20:17, 27 Янв На каких животных охотятся кошки: список, который удивил даже ученых Кошки лучше ловят добычу, которая двигается рывками, чем ту, что убегает по прямой Кошки были одомашнены около 10 тысяч лет назад. И изначально их за...

18:17, 27 Сен Нарушили все законы физики: как поведение электронов в сверхмощных полях потрясло учёных в США Исследователи обнаружили, что электроны в пентателлуриде циркония (ZrTe₅) продолжают демонстрировать квантовые осцилляции даже при сверхсильных магни...

12:17, 28 Сен Мозг внезапно переключился: как неожиданный эффект привычного препарата озадачил ученых в США Исследование показало, что прием гидрокортизона в дозе 10 мг может временно улучшить некоторые когнитивные функции у женщин с ВИЧ и подавленной вирус...

12:17, 19 Апр Графеновый прорыв сибирских учёных: датчик на бумаге диагностирует диабет по дыханию Учёные Института физики полупроводников имени А.В. Ржанова СО РАН (Новосибирск) и Объединённого института высоких температур РАН (Москва) разработали...

23:17, 02 Мар Почему мясо диких животных жесткое и невкусное: простое объяснение ученых Мясо диких животных многим не нравится, и этому есть объяснение Вы наверняка хотя бы раз пробовали мясо, которое пахло как-то не так — слишком резко,...

02:17, 17 Мар Анализ крови может предсказать продолжительность жизни: новое открытие учёных Продолжительность жизни можно предсказать по крови — открытие, которое меняет всё. Иногда кажется, что продолжительность жизни определяется генами, о...

10:17, 30 Авг Природный банк семян истощается слишком быстро: учёных беспокоит резерв выживания Природа создала собственный "банк Судного дня", который скрыт буквально у нас под ногами. Пока мировое сообщество полагается на защищенный комплекс н...

12:17, 23 Апр Золотая жила под водой: как открытие ученых замещает редкие компоненты для вакцин и кремов В Черном море нашли "золотую жилу", но не из драгоценных металлов, а из живых клеток. Ученые ИЦиГ СО РАН препарировали секреты микроорганизма. Этот п...

00:17, 20 Май На обратной стороне Солнца произошло то, что заставило ученых срочно следить за поворотом звезды Солнце решило устроить фейерверк, но забыло повернуть пушку в сторону зрителей. На обратной стороне светила зафиксированы три вспышки высшего балла —...

01:17, 15 Авг Планета поглотила своих детей: находки Уэбба вынудили учёных пересмотреть историю Нептуна Нептун хранит в своих кольцах следы грандиозной космической катастрофы. Анализ данных, полученных с телескопа "Джеймс Уэбб" (JWST), показал, что совр...

04:17, 11 Июл Вековая зима начала стремительно разрушаться: масштабные последствия температурных аномалий потрясли ученых Привычный зимний уют в Европе трещит по швам. Мы привыкли думать, что снег просто тает из-за глобального потепления — медленно и везде. Но реальность...

17:17, 14 Окт Тысячелетние секреты зубного камня: как находка ученых Базеля опровергла старые теории о питании На эмали зуба, принадлежавшего человеку, который умер более трех тысяч лет назад, застыли молекулы, не имеющие отношения к мясу или зерну. Это следы ...

20:17, 20 Мар Первая партия — бесплатно для ученых России: Бауманка запускает контрактное производство передовых фотонных чипов МГТУ им. Н.Э. Баумана и ФГУП «ВНИИА» объявили о начале приема заявок на первый контрактный запуск производства фотонных интегральных схем (ФИС) в фор...

13:17, 22 Сен Невероятное открытие в Каспийском море: такой уникальный улов из пасти змеи изменил знания ученых В бассейне Каспийского моря обнаружили два новых вида придонных рыб из семейства бычковых: каспийскую пуголовочку (Benthophiloides caspicus) и скифск...

19:17, 15 Июн Орбитальный приговор подписывают прямо сейчас: Солнце вынуждает учёных пойти на отчаянную меру в космосе NASA решило пойти на беспрецедентный риск ради спасения легендарной обсерватории "Свифт", которая уже два десятилетия выслеживает мощнейшие взрывы во...

06:17, 31 Июл Всего одна привычка в день может сохранить самостоятельность после 60: новое открытие удивило ученых Сохранение возможности самостоятельно справляться с бытовыми делами — ключевой показатель качества жизни в пожилом возрасте. Новое исследование, пред...