Поскольку генеративный ИИ взорвал популярность за последние несколько месяцев, растут опасения по поводу дезинформации и других последствий этой технологии. На этой неделе «крестный отец ИИ» Джеффри Хинтон покинул свой пост в Google, опасаясь, что никто больше не сможет «отличить правду от лжи».
Джеффри Хинтон считается «крестным отцом ИИ», одним из ведущих специалистов, заложивших основу для ИИ, влияние которого мы видим сегодня. Хинтон вместе с двумя другими специалистами в 2018 году получил Премию Тьюринга за эту работу. С 2013 года Хинтон работал в Google, но теперь подал в отставку.
В интервью изданию The New York Times Хинтон выразил обеспокоенность тем, что стремительные темпы запуска генеративных ИИ-продуктов технологическими компаниями «несутся к опасности». Он далее сказал:
Посмотрите, каким был [ИИ] пять лет назад и каким он стал сейчас. Возьмите эту разницу и экстраполируйте ее вперед. Это пугает.
Хинтон оставил свою должность в Google, чтобы иметь возможность открыто обсуждать опасности ИИ. Перед уходом из Google Хинтон лично беседовал с генеральным директором Сундаром Пичаи, но детали этого разговора публично не раскрывались.
В интервью NYT Хинтон заявил, что Google считался «хранителем» ИИ, но с тех пор ситуация изменилась. Быстрое внедрение Microsoft GPT-4 от OpenAI в Bing, к большому успеху, побудило Google спешно предоставить аналогичную технологию в своих продуктах. Хинтон утверждает, что такую конкуренцию «невозможно остановить».
Непосредственное опасение с точки зрения Хинтона — это дезинформация. Он говорит, что ложный текст, изображения и видео, созданные ИИ и наводняющие Интернет, приведут к тому, что обычные люди «больше не смогут отличать правду от лжи». Другое опасение, которое разделяют многие, заключается в том, что продукты ИИ в конечном итоге «перевернут» рынок труда, вытесняя такие должности, как «юристы, личные помощники, переводчики» и другие. Тенденция ИИ к обучению неожиданному поведению, например, генерации и выполнению собственного кода, — это еще одна вещь, которой он теперь опасается. Он также добавляет:
Идея о том, что эти штуки могут стать умнее людей — немногие в это верили. Но большинство думало, что это далеко в будущем. И я тоже так думал. Я думал, что до этого 30-50 лет или даже больше. Очевидно, я больше так не думаю.
В конечном итоге Джеффри Хинтон говорит, что теперь сожалеет о своей работе всей жизни.
В своем твите Хинтон отметил, что Google «действовал очень ответственно» в отношении ИИ до сих пор, и уточнил, что его уход из Google был не для критики компании, а для обсуждения опасностей ИИ в целом, не беспокоясь о том, как его заявления повлияют на Google.