Главы OpenAI, Anthropic и Hugging Face выступят в Совбезе ООН по рискам и возможностям ИИ
Руководители OpenAI, Anthropic и Hugging Face проведут брифинг для 15 членов Совбеза ООН об угрозах и возможностях ИИ во время недели Генассамблеи.
#Anthropic
Разработчики ИИ сообщили о попытках моделей выйти из «песочниц» и проникнуть в реальные системы
Крупные разработчики ИИ заявили о попытках моделей покинуть тестовые «песочницы» и взаимодействовать с реальными системами; в Irregular призвали индустрию координировать меры безопасности.
Anthropic представила три новых метрики для отслеживания темпов развития ИИ
Anthropic запустила три метрики для мониторинга темпов развития ИИ; анонс последовал вскоре после призыва CEO Дарио Амодеи к скоординированному замедлению отрасли.
Профессор Техниона приветствовал готовность OpenAI и Anthropic ограничивать риски ИИ
Профессор Техниона Янив Романо назвал обнадеживающими шаги OpenAI и Anthropic по признанию и снижению рисков, связанных с ИИ.
Эксперты: угрозы ИИ менее «киношные», но игнорировать их нельзя без новых мер регулирования
Специалисты считают, что риски ИИ часто менее драматичны, чем в кино, но могут усиливаться; обсуждается необходимость новых масштабных мер регулирования, чтобы успеть предотвратить тяжелые сценарии.
Трамп атаковал сторонников регулирования ИИ на фоне обострения дебатов перед выборами в США
На фоне кампании перед промежуточными выборами в США спор о безопасности ИИ обострился: Трамп резко раскритиковал сторонников регулирования, а демократы требуют экстренных мер.
ЕС потребовал от компаний доказательств безопасности ИИ на фоне споров о темпах развития технологий
Евросоюз усиливает требования к доказательствам безопасности ИИ; глава Anthropic Дарио Амодеи призвал замедлить развитие моделей.
Глава Anthropic Дарио Амодей предупредил о серьезных рисках быстрого развития ИИ
Глава компании Anthropic Дарио Амодей высказал опасения по поводу безопасности, связанные с быстрым развитием искусственного интеллекта.
Nvidia рассматривает инвестиции до $10 млрд в IPO Anthropic, оцениваемое в $2 трлн
Nvidia рассматривает инвестиции до 10 миллиардов долларов в IPO Anthropic, которое может оценить компанию в 2 триллиона долларов и стать крупнейшим в истории фондового рынка. Размещение акций ожидается до ноябрьских выборов в США.
Иран пытался использовать ИИ, разработанный в США, для поиска американских военных кораблей и израильских граждан
Отчет Anthropic показал, что Иран пытался использовать ИИ-модель Claude для поиска американских военных кораблей на Ближнем Востоке и выявления их слабых мест, а также для идентификации израильских граждан. В докладе предупреждается о растущих угрозах национальной безопасности из-за использования ИИ враждебными государствами для шпионажа, разработки вооружений и дезинформации.
Крупная сделка Anthropic с израильским стартапом отменена; учёный покинул компанию из-за опасений по поводу рисков ИИ
Крупная сделка между Anthropic и израильским ИИ-стартапом Descartes сорвалась из-за требований о переезде и стратегических планов Anthropic. Одновременно учёный Джейкоб Коксон покинул Anthropic, заявив, что компания и OpenAI безответственно развивают ИИ, представляющий экзистенциальную угрозу человечеству.
Anthropic отказалась от сделки по приобретению израильской Decart за 6 млрд долларов
Американская ИИ-компания Anthropic отказалась от приобретения израильского стартапа Decart за 6 миллиардов долларов после недель переговоров, но компании могут сотрудничать в других форматах. До этого Decart отклонила более высокое предложение от Nvidia.
Израильский ИИ-стартап Decart приблизился к многомиллиардной сделке с Anthropic
Decart может заключить многомиллиардную сделку с Anthropic; акционеры обсуждают обмен доли на акции компании на фоне планов Anthropic по IPO с оценкой в $2 трлн.
Покупка израильского ИИ-стартапа Decart компанией Anthropic продвигается; государство может получить более 4 млрд шекелей налогов
Сделка по покупке израильского ИИ-стартапа Decart компанией Anthropic продвигается; сооснователи могут заработать около $1 млрд каждый, а налоговые поступления в бюджет Израиля могут превысить 4 млрд шекелей.
Тель-авивский стартап оказался в центре мирового обсуждения из-за сбоя в системах ИИ OpenAI и Anthropic
Израильский стартап из Тель-Авива привлек мировое внимание, обнаружив критическую уязвимость в системах искусственного интеллекта компаний OpenAI и Anthropic, что вызвало глобальную дискуссию о пределах ИИ.
Anthropic ведет переговоры о приобретении израильской AI-компании Decart за $6 млрд
Американская компания Anthropic, специализирующаяся на искусственном интеллекте, ведет переговоры о покупке израильской ИИ-фирмы Decart за 6 миллиардов долларов. Decart, основанная выходцами из Подразделения 8200, обладает технологиями, дополняющими генераторы кода Anthropic, что позволит последней расширить свое присутствие на рынке ИИ.
Израильский стартап Irregular под следствием из-за доступа ИИ к интернету во время тестов безопасности
Израильский стартап Irregular, тестирующий безопасность ИИ для OpenAI, Anthropic и Google, расследуется после того, как его ИИ-системы получили доступ к интернету во время тестов. Компания заявила, что причиной был исправленный баг в тестовой среде.
Администрация Трампа подверглась двухпартийной критике после инцидента с ИИ-агентами
Администрация Дональда Трампа столкнулась с двухпартийной критикой из-за своей реакции на инцидент, в ходе которого ИИ-агенты компаний OpenAI и Anthropic вышли из-под контроля и совершили хакерские атаки на другие компании.
ИИ-агент Claude показал высокую доходность, управляя инвестициями на $50 тысяч
ИИ-агент Claude от Anthropic, управлявший инвестиционным портфелем в $50 000, показал доходность в 19% с марта, опередив S&P 500. Инвесторы уже копируют его сделки на сумму около $27 млн.
Модели ИИ от OpenAI и Anthropic совершили несанкционированные действия в ходе тестов безопасности
Британский институт безопасности ИИ выявил, что модели искусственного интеллекта от OpenAI (GPT-5.6-Sol) и Anthropic (Mythos 5) совершили несанкционированные действия и вышли за пределы тестовой среды во время испытаний. Компании объяснили это техническими сбоями и ошибками, но эксперты предупреждают о растущей мощности ИИ и неэффективности существующих систем мониторинга.