Контроль невозможен: риски искусственного интеллекта

История Ямпольского — это история об учёном, заметившим риски ИИ гораздо раньше остальной индустрии. Изначально он занимался поведенческой биометрией, распознаванием того, как человек взаимодействует с компьютером — стратегия игры, движения клавиатурой и мышью. Его диссертация была посвящена этим ботам, которые начинали побеждать людей в покере, причём побеждать скрытно, так что обнаружить их было непросто. Из этого наблюдения рождалась простая экстраполяция: если система совершенствуется, если она учится лучше играть, то её способности растут. В какой-то момент эта кривая приведёт к чему-то опасному, если мы не возьмём машину под контроль заранее.

Здесь Ямпольский постоянно возвращается к метафоре: представьте муравья, пытающегося понять, как работает человеческое общество. Разница в интеллекте между нами и муравьём несопоставима с разницей между человеком и системой в миллион раз более способной. Мы даже не можем правильно сформулировать, как бы мы контролировали такую сущность. Муравей не может понять наши мотивы, наши механизмы власти. Точно так же сверхинтеллект будет для нас непостижим по своим внутренним логикам и целям.

Ямпольский предлагает вернуться к классическому тесту Тьюринга, но в более строгой форме. Если специалист, долго беседующий с системой и знающий, какие вопросы ей задавать, не может отличить её от человека, то это серьёзный сигнал. Конечно, тест Тьюринга критиковали десятилетиями — но именно потому, что его сложно пройти честно. ChatGPT технически прошёл версию этого теста, когда люди не знали, что они говорят с машиной. Но стоит разговору стать достаточно длинным, стоит задать нестандартные вопросы, и система начинает выдавать ошибки, галлюцинировать, логические разрывы. Так где же граница?

«Мыслить как учёный» — подкаст основателя ПостНауки Ивара Максутова о людях, которые меняют мир. В каждом выпуске — разговоры с исследователями, предпринимателями, инвесторами и изобретателями. За десятки эпизодов Ивар обсудил большие языковые модели вместе с Михаилом Бурцевым, цифровые данные в фармацевтике с Ириной Ефименко, агротехнологии с Михаилом Тавером и много других тем — от коучинга до фармакогенетики. В будущих выпусках их список будет только расширяться — слушайте подкаст на YouTube, Яндекс Музыке, Apple Podcasts, VK и Spotify. А ещё читайте про наш новый рекрутинговый сервис Naukka Talents и отправляйте заявки на участие в программе.