AI World
Anthropic и OpenAI — безопасность, биориски, пауза
Anthropic управляет лабораторией, где AI применяется в биологических экспериментах. На фоне заявлений о потенциальной пользе для медицины это усиливает и другой сюжет дня — контроль рисков двойного назначения.
TechCrunch AI →Ошибочный ответ модели почти привел к военному действию в США. Инцидент снова показал, что LLM нельзя воспринимать как источник безусловной достоверности в критических решениях.
TechCrunch AI →OpenAI выпустила рамку из шести принципов для более безопасного использования AI подростками и молодежью в Австралии. Документ делает акцент на защите, доступности и ответственном внедрении.
OpenAI →Vantora, ранее UP.Labs, привлекла $100 млн и строит компании для индустриальных корпораций. Фокус — physical AI и продукты, которые работают не только в софте, но и в реальных производственных средах.
TechCrunch AI →Wired разбирает механизмы, которые могли бы заставить крупные AI-компании замедлиться, если они согласятся на паузу. Ключевая проблема — контроль обхода ограничений и соблюдение правил всеми участниками гонки.
Wired AI →Wired пишет, что даже внутри самой AI-отрасли усиливается дискуссия о том, следовать ли собственным исследованиям по рискам. В центре спора — насколько опасными могут быть текущие модели и когда требуется пауза.
Wired AI →MIT Technology Review выделяет тему AI-усиленных биоугроз как один из главных вызовов для отрасли. Публичные предупреждения лидеров компаний поднимают планку ожиданий к биобезопасности.
MIT Tech Review →Издание продолжает тему экзистенциальных рисков и фиксирует, насколько остро индустрия обсуждает сценарии выхода AI из-под контроля. Фокус — не на драматизации, а на том, какие вопросы уже требуют ответа.
MIT Tech Review →Связанные с AI-лабораториями и инвесторами PACs резко увеличили политические расходы в сенатской гонке Южной Дакоты. История показывает, что влияние AI-капитала уже выходит за пределы технологического рынка.
Wired AI →Индия требует от caller-ID сервисов передавать телекомам отчеты о спаме. Truecaller считает, что это может превратить коммерчески ценный проприетарный актив в инструмент операторов связи.
TechCrunch AI →