Альтман и Амодей предупредили ООН о рисках ИИ

Сэм Альтман из OpenAI и Дарио Амодей из Anthropic 23 сентября выступили на сессии Совета Безопасности ООН по ИИ, организованной Францией. Альтман назвал два главных риска: люди могут потерять контроль над технологиями, если они будут развиваться быстрее, чем институты успевают реагировать, и власть может сосредоточиться в руках узкого круга.

Амодей заявил, что при плохом управлении ИИ может стать риском для всего человечества. Оба лидера призвали не обучать модели без доказательств сохранения контроля и напомнили, что их компании уже добровольно замедляли разработку.