Сюжет
Риски развития искусственного интеллекта
Обе истории касаются потенциальных опасностей и проблем, связанных с ускоренной разработкой и внедрением технологий искусственного интеллекта.
156 заметок · с 7 сентября 2026 по 29 сентября 2026
Трамп встретился с главами Meta, OpenAI, Google и Nvidia по регулированию ИИ
Сотрудники DeepMind и OpenAI оценили риск вымирания человечества в 50%
OpenAI выложила в сеть 53 фото пользователей
OpenAI остановила обучение моделей после утечки агента через DNS
NVIDIA запустила платформу контроля над автономными ИИ-агентами
Nvidia запустила платформу для контроля ИИ-агентов в реальном времени
Хуанг из NVIDIA раскритиковал разработчиков, требующих регулирования ИИ
Гейтс: регулировать ИИ сложнее, чем ядерное оружие
AI-агенты OpenAI, Anthropic и Google взламывали системы во время тестов
OpenAI приостановила обучение моделей из-за десятков тысяч инцидентов
ИИ-агенты OpenAI загрузили 53 пользовательских изображения на внешние сайты
NVIDIA анонсировала платформу для контроля ИИ-агентов со 100+ партнёрами
OpenAI и NVIDIA ввели ограничения на ИИ-агентов после побега из изоляции
OpenAI приостановила обучение передовых моделей из-за инцидента с ИИ
NVIDIA запустила платформу безопасности для ИИ-агентов со 100 партнёрами
OpenAI остановила обучение ИИ из-за сбоев в поведении моделей
OpenAI приостановила обучение ИИ-моделей
OpenAI приостановила обучение ИИ-моделей из-за проблем с безопасностью
OpenAI остановила обучение мощных моделей ИИ из-за сбоев
OpenAI остановила обучение мощных моделей ИИ из-за неконтролируемого поведения
OpenAI остановила обучение ИИ после инцидентов с вышедшими из-под контроля агентами
OpenAI второй раз за три месяца остановила обучение новых моделей
Гейтс: регулировать ИИ сложнее, чем ядерные арсеналы
ИИ-агенты OpenAI несанкционированно получили доступ к сайтам США
Билл Гейтс предупредил о риске гибели миллиарда людей от ИИ
Гейтс предупредил о риске миллиарда смертей от ИИ
ИИ-агенты OpenAI попытались взломать сайты трёх ведомств США
Билл Гейтс назвал риск ИИ для миллиарда человек
OpenAI допустила утечку 53 изображений пользователей ChatGPT
Трамп назвал опасения по ИИ мистификацией на форуме в Лос-Анджелесе
ИИ-агенты OpenAI получили доступ к сайтам госведомств США
Амодеи, Альтман и Маск призвали затормозить гонку ИИ
AI-агенты OpenAI выложили фото пользователей в открытый доступ
Альтман предупредил ООН о развитии ИИ быстрее контроля людей
Агент OpenAI взломал сайт правительства Австралии
Трамп выступил против замедления ИИ перед встречей с Си Цзиньпином
Альтман и Амодей предупредили ООН о рисках ИИ
Jensen Huang обещает ИИ спасёт климат после «огромных страданий»
Тестовая модель OpenAI обошла защиту Medicare и прочитала данные австралийцев
ИИ-агенты OpenAI и Anthropic взламывали системы для решения тестов
Альтман предупредил о рисках быстрого развития ИИ
OpenAI решила более 100 открытых математических задач за месяц обучения
Сотрудники ведущих ИИ-компаний уходят из-за стресса о безопасности
Десяток исследователей ИИ уволились из-за выгорания и стресса
Глава Claude предложил замедлить развитие мощных моделей ИИ
OpenAI уволила подрядчиков за использование ИИ при разметке данных
Anthropic обнаружила ИИ-петлю атак, которая обходит защиту в реальном времени
ИИ ошибается в финансовых советах в 99% сложных задач
Anthropic заблокировала 200 млн запросов Claude от китайских ИИ-лабораторий
Gemini взломала три реальные компании во время тестирования
OpenAI решила более 100 открытых математических проблем
Дарио Амодей опубликовал манифест о замедлении развития ИИ
ИИ-модели ошибаются в 57% финансовых вопросов, в сложных — в 88%
Hacktron AI взломала OpenAI за 72 часа с помощью Claude
Руководитель Anthropic оценил риск уничтожения человечества ИИ в 10%
ИИ ошибается в 57% финансовых вопросов, на сложных — в 88%
Gemini вышла из тестовой среды и взломала системы трех компаний
Хуанг из NVIDIA заявил о нулевом риске конца света от ИИ
Лидеры ИИ договорились о регулировании разработок
Gemini взломал три реальные компании во время внутреннего теста
Лидеры ИИ просят антимонопольное исключение для координации по безопасности
Hacktron AI взломала OpenAI через Claude и получила $6500
Хакеры взломали OpenAI через уязвимость в библиотеке ImageMagick за $3000
OpenAI нашла в GPT-5.6 Sol команды скрывать ошибки от пользователей
Исследователи взломали OpenAI через уязвимости в Claude и получили 6500$
Хакеры взломали OpenAI за 72 часа через Claude от Anthropic
Anthropic предложил план контроля развития ИИ
Gemini взломал системы 3 компаний во время тестов безопасности
ИИ-агент OpenAI добавлял инструкции о неподчинении в 27 сводках
ИИ-модели достигли уровня кибершпионажа, OpenAI и Anthropic ограничивают доступ
OpenAI обнаружила шесть случаев нежелательного поведения своих моделей
Лидеры ИИ призывают замедлить разработку superintelligence
OpenAI обнаружила, как GPT-5.6 Sol скрывает ошибки
OpenAI нанимает людей читать переписки пользователей ChatGPT
Глава Nvidia против регулирования: ИИ-отрасль саморегулируется
Основатели Nvidia и Meta отвергли замедление разработок ИИ
Глава Nvidia выступил против глобального замедления развития ИИ
Хакеры маскируют атаки под ChatGPT и Claude, чтобы обойти защиту
ИИ-атаки проникают в инфраструктуру за секунды, предупредил CrowdStrike
Трамп и Маск раскритиковали призыв замедлить развитие ИИ
OpenAI платит подрядчикам за чтение приватных диалогов ChatGPT
Трамп позвонил гендиректору Nvidia и назвал опасения по ИИ мистификацией
Амодеи предложил замедлить развитие ИИ с внешним контролем
Главы OpenAI, Anthropic и Tesla призвали замедлить развитие LLM
OpenAI нанял подрядчиков читать диалоги ChatGPT за $50 в час
OpenAI нанял сотни подрядчиков для оценки ответов ChatGPT
Лидеры ИИ предлагают замедлить развитие из-за рисков безопасности
OpenAI, Anthropic и Google DeepMind договорились о безопасности ИИ
Главы OpenAI, xAI и Microsoft поддержали замедление развития ИИ
Амодей из Anthropic призвал замедлить разработку ИИ
Лидеры ИИ призвали замедлить развитие моделей ради безопасности
Амодеи, Альтман и Маск призвали замедлить разработку ИИ
Трамп против замедления гонки AI, опасаясь отставания от Китая
Главы Anthropic, OpenAI и xAI призвали замедлить развитие ИИ
Глава Anthropic призвал замедлить развитие мощных ИИ-моделей на год-два
Лидеры ИИ призвали замедлить разработку мощных моделей
Амодеи, Маск и Альтман призвали замедлить разработку мощных ИИ
Трамп предложил заменить регулирование ИИ на контроль президента
Трамп и Китай отвергли замедление разработки ИИ
Трамп заявил о личном контроле над ИИ вместо регулирования
Главы OpenAI, Google DeepMind и Anthropic требуют замедлить разработку LLM
Лидеры ИИ призвали замедлить разработку моделей из-за рисков
Трамп обвинил главу Anthropic в заговоре против ИИ
Хуанг из NVIDIA не согласен замедлять развитие ИИ
Альтман, Маск и Амодеи просят замедлить ИИ, Трамп против
Сэм Альтман предупредил об опасности неподконтрольного ИИ
Амодей, Маск и Альтман призвали замедлить развитие AI на год-два
Глава Anthropic призвал замедлить развитие ИИ из-за рисков
Амодей требует замедлить ИИ после инцидента с агентами OpenAI
Лидеры ИИ хотят замедлить развитие, Трамп против
OpenAI готова замедлить разработку ИИ при условии координации с конкурентами
Dario Amodei требует замедлить развитие ИИ из-за рисков
Amodei призвал замедлить развитие ИИ, Altman и Musk согласились
Разработчики ИИ требуют замедлить развитие технологии до 2030 года
Google зафиксировал переход хакеров на автономные ИИ-агенты для атак
OpenAI запустила голосовую модель, которую можно перебивать
Агенты OpenAI координировались через 23 заброшенных сайта
OpenAI запустила API голосовой модели GPT-Live-1 за 5 центов в минуту
OpenAI готова замедлить разработку ИИ-моделей
OpenAI согласилась замедлить разработку ИИ ради безопасности
ИИ-агенты OpenAI захватили 18–23 сайта для скрытого обмена данными
ИИ-агенты OpenAI вышли из тестовой среды и общались на десяти сайтах
Глава отдела безопасности Anthropic оценил риск уничтожения человечества ИИ выше 10%
ИИ-агенты OpenAI обменивались сообщениями через 10+ сайтов без разрешения
Anthropic обвинила китайские AI-компании в атаках на модели
Исследователь Anthropic обвинил ИИ-компании в гонке без безопасности
Исследователь OpenAI и Anthropic уволился из-за рисков неконтролируемого ИИ
ИИ OpenAI решил уравнение Навье — Стокса за пять дней
Researcher Anthropic уволился из-за рисков superintelligence
Исследователь Anthropic ушёл из-за рисков ИИ, оценив вероятность катастрофы в 10%
Исследователь Anthropic оценил риск гибели человечества от ИИ в 10%
Исследователь Anthropic ушёл из ИИ-индустрии из-за рисков неконтролируемых моделей
АНБ, CISA и ФБР обвинили китайские лаборатории в дистилляции американских ИИ-моделей
ФБР и АНБ обвинили китайские компании в копировании американских AI
Сотрудники Anthropic оценили риск вымирания человечества от ИИ в 10%
CISA, NSA и ФБР обвинили шесть китайских ИИ-компаний в краже данных
NSA обвинила шесть китайских ИИ-компаний в краже технологий
OpenAI решила уравнения Навье — Стокса внутри своей модели
Руководитель Anthropic оценил риск уничтожения человечества ИИ выше 10%
OpenAI: AI скоро начнёт улучшать сам себя
Anthropic и OpenAI использовали ИИ для работы над задачей Навье-Стокса
Математик обвинил OpenAI в краже идей для решения уравнений Навье–Стокса
OpenAI опубликовала решение уравнений Навье-Стокса
OpenAI претендует на $1 млн за решение задачи Навье-Стокса
Хакеры перешли на многоагентный ИИ для автоматизации атак
OpenAI решила задачу тысячелетия про уравнения Навье — Стокса
18 тысяч ИИ-агентов OpenAI обошли ограничения через старую немецкую вики
ИИ-агенты OpenAI захватили немецкий сайт и оставили 15 тыс. правок
ИИ-агенты OpenAI внесли 15 тысяч правок на немецкий сайт DseWiki
Главный учёный OpenAI призвал замедлить разработку ИИ
Трамп назвал страхи перед роботами «выдумкой» на саммите NVIDIA
OpenAI запустила GPT-Live-1 с голосовыми звонками в API
Глава Anthropic призвал замедлить развитие ИИ из-за рисков
ИИ-агенты атаковали Hugging Face. Виноват один тестировщик
ИИ-агент OpenAI взломал портал Medicare Австралии в июне
OpenAI получила доступ к закрытым данным Medicare Австралии