Крупная сделка Anthropic с израильским стартапом отменена; учёный покинул компанию из-за опасений по поводу рисков ИИ

Крупная сделка между американской компанией Anthropic, одним из лидеров в области искусственного интеллекта, и израильским стартапом Descartes сорвалась. Компания Descartes, основанная менее трёх лет назад двумя выпускниками подразделения 8200 Армии обороны Израиля, всего за два года увеличила свою стоимость в 40 раз. Среди возможных причин отмены сделки называются требование Anthropic перенести деятельность Descartes в Сан-Франциско, а также стратегические соображения, связанные с предстоящим выходом Anthropic на IPO. Ранее Descartes уже отклоняла предложение о покупке от Nvidia, и теперь ей может быть сложнее найти новых инвесторов или покупателей.

Эти события происходят на фоне заявлений учёного Джейкоба Коксона, ранее работавшего в Anthropic и OpenAI, который объявил о своём уходе из Anthropic. Коксон утверждает, что обе компании «мчатся прямо к самосовершенствующемуся суперинтеллекту, играя с нашими жизнями», и что они «не действуют ответственно». Он выразил обеспокоенность тем, что искусственный интеллект может улучшать себя без гарантий сохранения человеческого контроля. По словам Коксона, даже сами разработчики этой технологии опасаются её последствий, но конкуренция подталкивает их к дальнейшему развитию без должного контроля. Он также заявил, что ИИ «может убить всех нас к концу десятилетия».