Интересно Anthropic предлагает остановить разработку мощных ИИ-систем.

Admin

Admin

Администратор

1780894615362

​


Компания Anthropic выступила с инициативой создания международного механизма для замедления или временной остановки разработки самых мощных ИИ-систем.

Anthropic считает, что без общей договорённости между крупными разработчиками из разных стран, включая США и Китай, конкуренция и геополитика будут продолжать стимулировать гонку.

Компания Anthropic предложила создать международный механизм для замедления или временной остановки разработки самых мощных ИИ-систем. В новом докладе компания подчеркивает, что обществу может понадобиться время для подготовки правил безопасности и государственного надзора. Главная тревога связана с ускорением разработки ИИ, который уже помогает писать код, проводить тесты и улучшать модели. Anthropic также выделяет риск рекурсивного самоулучшения, когда ИИ почти самостоятельно проектирует более сильные версии себя. Компания сравнивает задачу с контролем над ядерными вооружениями, но считает ИИ труднее для проверки. Идея встретит сопротивление в Вашингтоне и Кремниевой долине, где опасаются, что замедление даст Китаю стратегическое преимущество.
 
Для ответа нужно войти/зарегистрироваться
Похожие темы
Admin Интересно Anthropic представила инструмент для оценки рисков использования ИИ. Новости в сети 0
Admin Интересно Уязвимость в помощнике Anthropic AI могла раскрыть секретные данные. Новости в сети 0
Admin Интересно Anthropic призывает замедлить развитие ИИ перед IPO на триллион долларов. Новости в сети 0
Admin Интересно Anthropic расширяет доступ к своей системе Mythos AI для 200 организаций. Новости в сети 0
Admin Интересно Anthropic готовится к IPO, опережая OpenAI в гонке за лидерство на рынке ИИ. Новости в сети 0
Admin Интересно Anthropic выпустила обновлённую модель Claude Opus 4.8. Новости в сети 0
Admin Интересно Anthropic представила плагин безопасности для Claude Code. Новости в сети 0
Admin Интересно Anthropic представит модель Mythos AI, способную изменить подход к киберрискам. Новости в сети 0
Admin Интересно Хакеры создали платформу KeyHunter для автоматического поиска ключей OpenAI, Anthropic и AWS. Новости в сети 0
Admin Интересно США объявили Anthropic угрозой национальной безопасности, но продолжают использовать её технологии. Новости в сети 0
Admin Интересно Anthropic рассказала, как отучила искусственный интеллект угрожать людям. Новости в сети 0
Admin Интересно Anthropic выпустила частичное исправление для уязвимости в расширении Claude Chrome. Новости в сети 0
Admin Интересно Несанкционированный доступ к мощной модели Mythos компании Anthropic. Новости в сети 0
Admin Интересно Claude взломал Chrome за 2283 доллара. Anthropic пыталась предотвратить это, но не смогла. Новости в сети 0
Admin Интересно GitHub заблокировал доступ к сети проектов из-за утечки кода Anthropic. Новости в сети 0
Admin Интересно Anthropic случайно опубликовала исходный код CLI-инструмента Claude Code. Новости в сети 0
Admin Интересно Армия США в заложниках у кода, а Anthropic пугает мир новой моделью Mythos. Новости в сети 0
Admin Интересно Anthropic запустила сервис для проверки кода, который работает как опытный разработчик. Новости в сети 0
Admin Интересно Бунт против Пентагона. Топы OpenAI и Google пошли в суд защищать Anthropic от принудительной милитаризации нейросетей. Новости в сети 0
Admin Интересно Мэр Лондона пригласил Anthropic в город после критики Пентагона. Новости в сети 0
Admin Интересно Anthropic обнаружила 22 уязвимости в Firefox с помощью модели Claude Opus 4.6. Новости в сети 0
Admin Интересно Пентагон требует от Anthropic полного контроля над ИИ Claude. Новости в сети 0
Admin Интересно Открыл README — потерял сервер. В Anthropic хотели упростить жизнь разработчикам, но случайно дали взломщикам ключи от их систем. Новости в сети 0
Admin Интересно Новый мобильный оператор Radiant Mobile предлагает «Иисусоцентричный» интернет. Новости в сети 0
Admin Интересно Новая европейская социальная сеть eYou предлагает проверку фактов в реальном времени. Новости в сети 0
Admin Интересно Социальная сеть Bond предлагает меньше скроллить и продавать свои воспоминания. Новости в сети 0
Admin Интересно Франция предлагает альтернативы американским технологиям: Qwant, Le Chat и Deezer. Новости в сети 0
Admin Интересно Социальная сеть Monnett предлагает альтернативу без алгоритмов и слежки. Новости в сети 0
Admin Интересно Leak Bazaar предлагает новый подход к продаже украденных данных. Новости в сети 0
Admin Интересно Министр просвещения предлагает ограничить использование телефонов детьми. Новости в сети 0
Admin Интересно Белый дом предлагает единый закон об ИИ для защиты детей и упрощения регулирования. Новости в сети 0
Support81 SMS не приходят — добавьте почту. WhatsApp предлагает россиянам «резервный ключ» Новости в сети 0
Support81 ФБР предлагает бесплатное дешифрование жертвам LockBit Новости в сети 0
S Минфин предлагает приравнять биткоин к товару Новости в сети 0
Admin Интересно Хронический недосып разрушает мозг, но учёные нашли способ остановить это. Новости в сети 0
Admin Интересно Учёные предложили новый способ остановить ГМО-организмы после побега из лаборатории. Новости в сети 0
Support81 «Нас не остановить»: LockBit вернулся с пятой версией шифровальщика и атакует сразу три континента Новости в сети 0
Support81 Красный, жёлтый, хакерский: как один человек может остановить город Новости в сети 0

Название темы