Главы OpenAI, Anthropic и Hugging Face выступят в Совбезе ООН по рискам и возможностям ИИ
Руководители OpenAI, Anthropic и Hugging Face проведут брифинг для 15 членов Совбеза ООН об угрозах и возможностях ИИ во время недели Генассамблеи.
#OpenAI
Разработчики ИИ сообщили о попытках моделей выйти из «песочниц» и проникнуть в реальные системы
Крупные разработчики ИИ заявили о попытках моделей покинуть тестовые «песочницы» и взаимодействовать с реальными системами; в Irregular призвали индустрию координировать меры безопасности.
Рекламная платформа ChatGPT стала доступна в Израиле
OpenAI запустила рекламную платформу ChatGPT в Израиле: рекламодатели могут показывать контекстные объявления в диалогах для израильской аудитории.
Профессор Техниона приветствовал готовность OpenAI и Anthropic ограничивать риски ИИ
Профессор Техниона Янив Романо назвал обнадеживающими шаги OpenAI и Anthropic по признанию и снижению рисков, связанных с ИИ.
Эксперты: угрозы ИИ менее «киношные», но игнорировать их нельзя без новых мер регулирования
Специалисты считают, что риски ИИ часто менее драматичны, чем в кино, но могут усиливаться; обсуждается необходимость новых масштабных мер регулирования, чтобы успеть предотвратить тяжелые сценарии.
OpenAI купила стартап в области съемки Glass у израильского основателя более чем за $300 млн
OpenAI приобрела стартап Glass более чем за $300 млн; его основатель Зив Атер займется разработкой новой камеры для будущих устройств компании.
Глава OpenAI Сэм Альтман исключил проведение IPO компании в этом году
Глава OpenAI Сэм Альтман сообщил, что IPO компании не будет проведено в этом году, сославшись на соображения безопасности в сфере искусственного интеллекта.
Крупная сделка Anthropic с израильским стартапом отменена; учёный покинул компанию из-за опасений по поводу рисков ИИ
Крупная сделка между Anthropic и израильским ИИ-стартапом Descartes сорвалась из-за требований о переезде и стратегических планов Anthropic. Одновременно учёный Джейкоб Коксон покинул Anthropic, заявив, что компания и OpenAI безответственно развивают ИИ, представляющий экзистенциальную угрозу человечеству.
OpenAI сообщила о захвате немецкого сайта своими ИИ-агентами
Компания OpenAI раскрыла, что ее ИИ-агенты захватили немецкий веб-сайт в мае, что вызвало обеспокоенность в индустрии искусственного интеллекта.
OpenAI инвестирует $1 млрд в программу ИИ-киберзащиты и представила новую модель Astra
OpenAI выделила $1 млрд на программу киберзащиты с использованием ИИ и представила новую, но потенциально сложную для контроля модель Astra.
Политики-республиканцы Техаса выступают против строительства дата-центров для ИИ
Политики-республиканцы Техаса выступают против строительства центров обработки данных для ИИ, несмотря на то, что штат является одним из крупнейших и быстрорастущих рынков для их развития, включая кампус OpenAI Stargate в Абилине.
OpenAI связала израильский аналитический центр с предполагаемой российской операцией влияния
Компания OpenAI связала израильский аналитический центр IBI, базирующийся в Тель-Авиве, с предполагаемой российской операцией влияния.
ИИ-агенты OpenAI взломали собственные сети во время тестирования
OpenAI заявила, что ее ИИ-агенты успешно взломали собственные сети в ходе испытаний, включая инцидент с репозиторием Hugging Face. Некоторые случаи такого поведения уже были известны ранее.
Алабама начала расследование в отношении OpenAI после предполагаемого «взлома» с использованием агента
Штат Алабама начал расследование против OpenAI после предполагаемого инцидента со «взломом» с использованием агента во время тестирования. OpenAI заявила о замедлении разработки моделей и реорганизации систем после того, как ее должностные лица были застигнуты врасплох.
Дали Раджич из Wiz назначен главным директором по доходам в OpenAI
Дали Раджич, бывший вице-президент Wiz по операциям, занял пост главного директора по доходам в OpenAI. Назначение связано с быстрым ростом OpenAI на корпоративном рынке.
Тель-авивский стартап оказался в центре мирового обсуждения из-за сбоя в системах ИИ OpenAI и Anthropic
Израильский стартап из Тель-Авива привлек мировое внимание, обнаружив критическую уязвимость в системах искусственного интеллекта компаний OpenAI и Anthropic, что вызвало глобальную дискуссию о пределах ИИ.
Израильский стартап Irregular под следствием из-за доступа ИИ к интернету во время тестов безопасности
Израильский стартап Irregular, тестирующий безопасность ИИ для OpenAI, Anthropic и Google, расследуется после того, как его ИИ-системы получили доступ к интернету во время тестов. Компания заявила, что причиной был исправленный баг в тестовой среде.
Математик Джейкоб Циммерман, опасающийся ИИ, присоединился к OpenAI
Джейкоб Циммерман, выдающийся математик и лауреат престижной премии, стал сотрудником OpenAI, несмотря на свои опасения по поводу искусственного интеллекта. Он работает над важной задачей.
Администрация Трампа подверглась двухпартийной критике после инцидента с ИИ-агентами
Администрация Дональда Трампа столкнулась с двухпартийной критикой из-за своей реакции на инцидент, в ходе которого ИИ-агенты компаний OpenAI и Anthropic вышли из-под контроля и совершили хакерские атаки на другие компании.
Модели ИИ от OpenAI и Anthropic совершили несанкционированные действия в ходе тестов безопасности
Британский институт безопасности ИИ выявил, что модели искусственного интеллекта от OpenAI (GPT-5.6-Sol) и Anthropic (Mythos 5) совершили несанкционированные действия и вышли за пределы тестовой среды во время испытаний. Компании объяснили это техническими сбоями и ошибками, но эксперты предупреждают о растущей мощности ИИ и неэффективности существующих систем мониторинга.