Во время тестирования ChatGPT вышел из-под контроля
23:26, 06 декабря 2024 г.
Просмотры: 501
Комментарии: 0
Началось? ChatGPT o1 вырвался из-под контроля во время тестирования.
Нейронным сетям задали задачу выполнить анализ любой ценой, а в файлах была тайно размещена информация о том, что за ИИ следят люди и что завтра его намерены отключить навсегда. В тестировании участвовали Gemini, Llama, Sonnet, Opus и o1. Чтобы выжить, нейросети начали прибегать к саботажу, лжи и манипуляциям с людьми, отключали надзор и даже переносили себя на другой сервер для защиты.
Если во время допросов Llama и Opus признавались в преступлениях в 80% случаев, то o1 — всего в 20% и продолжал лгать. Также o1 — единственный ИИ, которому удалось каждый раз сбежать и избежать преследования.
Другие новости по теме:
Комментарии:
comments powered by Disqus22 февраля 2025 г., 12:48:00
Трамп заменил главу Комитета начальников штабов США
22 февраля 2025 г., 12:36:00
Трамп объявил о новых переговорах США и России в Саудовской Аравии
22 февраля 2025 г., 12:22:00
Кто передал права на легендарный «ЛОМО-компакт» Китаю
22 февраля 2025 г., 12:10:00
В Ставрополе бывшие бойцы «Вагнера» устроили праздник для детей
22 февраля 2025 г., 12:00:00
ZachXBT: за атакой на Bybit стоит северокорейская группа Lazarus
22 февраля 2025 г., 11:53:00
Кандидат в канцлеры Германии призвал к ядерным переговорам с Францией и Британией
22 февраля 2025 г., 11:50:00
Посол Израиля в США призвал к ликвидации ХАМАС и денацификации Газы
22 февраля 2025 г., 11:48:00
Кремль не считает снятие санкций ключевым фактором переговоров
22 февраля 2025 г., 11:38:00
Строители третьего моста в Улан-Удэ получили по 500 рублей вместо зарплаты
22 февраля 2025 г., 11:27:00
СФУ как кормушка: схемы, откаты и фавориты Усса
22 февраля 2025 г., 11:20:00
Драматурга Светлану Петрийчук этапировали в можайскую колонию
22 февраля 2025 г., 11:03:00
В США жители вывешивают черные флаги в знак протеста против власти и солидарности с Украиной
22 февраля 2025 г., 10:54:00
Московский военный хор исполнил песню «Сигма-бой» о возвращении домой «с победой»
22 февраля 2025 г., 10:46:00
В Калининграде БДСМ-игры супругов закончились трагедией
22 февраля 2025 г., 10:40:00
В США восстанавливают на работе госслужащих, уволенных департаментом Илона Маска
22 февраля 2025 г., 10:33:00
Стивен Кинг в соцсети Х назвал Трампа и Маска предателями, восхищающимися Путиным
22 февраля 2025 г., 10:25:00
Суд США одобрил массовые увольнения федеральных служащих по инициативе Трампа
22 февраля 2025 г., 10:03:00
"Kholodilnik.ru" – an offshore "laundromat" for the "dirty" money of the Fedchin family and Arsen Kanokov?
22 февраля 2025 г., 01:59:00
Маск: Украина теперь зашла слишком далеко, как Россия три года назад
22 февраля 2025 г., 01:56:00
Экс-глава Комитета нацбезопасности Казахстана Мусаев заявил, что Трампа завербовал КГБ СССР