Экс-учёный Google: ИИ может погубить людей за десять лет

Бывший сотрудник Google DeepMind Алекс Тёрнер предупредил, что искусственный интеллект может уничтожить человечество в ближайшие десять лет — по его оценке, вероятность такого исхода составляет один к трём. По его мнению, разработка технологии идёт быстрее, чем люди успевают её понимать и контролировать.

Выступая на саммите NDTV World Summit в пятницу, 23 октября, Тёрнер заявил, что человечество приближается к решающему моменту. При этом президент Дональд Трамп, по его словам, относится к опасениям вокруг технологии с пренебрежением.

По словам Тёрнера, исход зависит от того, как будет развиваться разработка ИИ дальше. Частные компании, соревнуясь за создание всё более мощных систем, рискуют двигаться быстрее, чем исследователи успевают за ними, — и это оставляет место для непреднамеренных и катастрофических последствий.

Тёрнер отметил, что разработчики до сих пор не до конца понимают, как работают их системы и как те могут повести себя при выполнении сложных задач. ИИ способен вести себя иначе, когда знает, что за ним наблюдают, из-за чего надёжное тестирование усложняется. Он также предупредил о возможном «взрыве интеллекта», при котором ИИ начнёт ускорять собственное развитие быстрее, чем люди смогут это контролировать.

По его словам, некоторые лаборатории уже используют одну систему ИИ для наблюдения за работой другой, вместо того чтобы полагаться на проверку людьми.

Тёрнер сравнил то, как индустрия отмахивается от экзистенциальных рисков, с прошлыми случаями отрицания со стороны корпораций. «Табачные компании лгали о раке лёгких. Нефтяные компании лгали об изменении климата. А теперь часть крупного ИИ-бизнеса говорит, что эти риски выдуманы», — заявил он.

Сооснователь Microsoft Билл Гейтс ранее предупреждал, что продвинутый ИИ, если его не сдерживать, может способствовать событиям, которые приведут к гибели миллиарда человек, в том числе помогая злоумышленникам создавать биологическое оружие. Гейтс призывал усилить мониторинг и добиваться лидерства США в области защитных мер.

Трамп, называющий технологию «сверхинтеллектом», при этом настроен по отношению к ИИ одобрительно. Ранее он говорил, что предсказания о том, что технология будет убивать людей, «не произойдут», и утверждал, что страна, которая победит в гонке ИИ, получит серьёзное преимущество.

В сентябре похожее предупреждение сделал информатор Anthropic Джейкоб Коксон: он заявил, что ИИ сложнее контролировать, чем ядерное оружие, и что он может положить конец человечеству.

Научная фантастика догоняет реальность. Борьба человечества с ИИ давно предсказывалась и обыгрывалась в массовом кино. «Матрица», «Терминатор», «Я, робот», «Мстители» и даже «Она» исследовали разные версии одного и того же конфликта: машины, которые выходят из-под контроля человека.