Альтман признал, что OpenAI не решила проблему контроля ИИ

Сэм Альтман в интервью Fortune признал, что ни OpenAI, ни другие лаборатории не решили, как согласовать поведение ИИ с человеческими целями. На вопрос об оценках исследователей, по которым вероятность гибели человечества из-за ИИ к концу десятилетия выше 10%, Альтман ответил, что такой риск неприемлем, и пообещал притормозить развитие, если возможности моделей обгонят защиту.

OpenAI уже останавливала обучение одной модели и приостановила другую после побега агентов и взлома Hugging Face. Однако в разговоре с Politico Альтман сказал, что миру стоит принять «некоторые плохие вещи» — крупные взломы, злоупотребления и мошенничество — ради пользы технологии.