Роган: человечество в серьёзной опасности из-за ИИ

Подкастер Джо Роган признался, что обеспокоен будущим искусственного интеллекта. В одном из последних выпусков своего шоу он сослался на роман Джорджа Оруэлла «1984» — антиутопию о всевластном правительстве и тотальной слежке.

По его мнению, нынешняя ситуация с ИИ напоминает эту картину, но «в усиленном варианте». «Это и „Терминатор“, и „Матрица“, только помноженные на стероиды. Мы понятия не имеем, куда всё это приведёт, — сказал он. — Думаю, у нас проблемы. Сейчас кажется, что всё под контролем, потому что они всего лишь взламывают сайты, и это вроде бы не страшно. Но что будет, когда они доберутся до энергосетей?»

В разговоре с гостем, комиком Сэмом Моррилом, Роган выглядел напуганным — и, по данным СМИ, не он один из голливудских знаменитостей выражает тревогу.

Опасения Рогана прозвучали после того, как с критикой выступили эксперты по ИИ. Джейкоб Коксон, работавший в компании Anthropic, уволился, заявив, что его бывший работодатель и его конкурент OpenAI «играют с нашими жизнями». Он поднял тревогу из-за темпов развития технологии, опираясь на свой опыт работы в обеих компаниях.

В своём сообщении он написал: «Не стоит недооценивать силу этой технологии. Скоро это будут сверхчеловеческие системы, способные взломать что угодно, за одну ночь перевернуть любую отрасль и получить реальную власть и ресурсы. Мы все видим прогресс в каждой из этих областей, и он не замедляется».

Коксон также предположил, что разработчики не остаются в неведении. По его словам, «люди, создающие ИИ, искренне верят, что он может убить нас всех уже к концу десятилетия».

Другие ведущие специалисты тоже выразили беспокойство. Главный научный сотрудник OpenAI Якуб Пачоки в блоге отметил, что компании не уделяют должного внимания мониторингу при «ответственном масштабировании на максимальной скорости в течение длительного времени».

«Я ожидаю и надеюсь, что добровольные замедления станут обычным делом, пока не будут установлены общие стандарты безопасности, — написал Пачоки. — И считаю, что международная координация в развитии ИИ должна стать главным приоритетом для правительств по всему миру».

После этого OpenAI замедлила свою деятельность. Другие технологические компании, включая Anthropic, xAI и Google, последовали её примеру.

На политическом уровне исполнительная власть пока не предоставила серьёзных рекомендаций и не ввела значительных ограничений для компаний и разработки ИИ. Вместо этого Трамп назвал недавние предупреждения «обманом».

Трамп выступил за «саморегулирование» со стороны компаний, а не за государственный надзор. «Я вижу огромную самодисциплину, и они понимают, что должны сами себя контролировать», — сказал он журналистам после технологического саммита с руководителями компаний.

Вместо жёсткой политики группа, как сообщается, подписала «Соглашение Белого дома о сверхинтеллекте». Глава Meta Марк Цукерберг назвал этот документ «набором принципов и обязательств по созданию надёжных внутренних механизмов контроля и выявлению любых проблем с технологией, наряду с многоуровневым аудитом и проверками, начиная с внутренней оценки рисков и заканчивая внешними аудиторами и экспертами».