Исследователь Google DeepMind объявил об уходе и предупредил, что ИИ может «убить всех нас»

Исследователь Google DeepMind Билал Чогтай объявил в соцсети X, что уходит из компании, и предупредил о рисках стремительного развития систем искусственного интеллекта. По его словам, возможности ИИ растут быстрее, чем способность общества и разработчиков контролировать такие системы.

Чогтай занимался в DeepMind исследованиями в области выравнивания (alignment) — поиском способов обеспечить работу ИИ в соответствии с намерениями человека. Он заявил, что нынешняя скорость прогресса усиливает вероятность критических последствий, и выразил мнение, что у ИИ есть потенциал «убить всех нас».

Чогтай призвал замедлить развитие передовых моделей, а также повысить прозрачность в этой сфере. Его заявление прозвучало на фоне продолжающихся предупреждений со стороны ряда специалистов об экзистенциальных рисках, связанных с созданием более мощных ИИ-систем.