Руководители MIRI предупреждают: существующие методы разработки ИИ ведут к катастрофе

В книге «Если кто-то его создаст — все погибнут. Почему сверхчеловеческий ИИ уничтожит нас всех» руководители Института исследований машинного интеллекта (MIRI) Элиезер Юдковский и Нейт Соарес утверждают, что текущие подходы к созданию ИИ неизбежно приведут к катастрофе. Они предлагают способы предотвращения угрозы.

Книга, переведенная на русский язык Евгением Поникаровым и выпущенная издательством «Corpus», содержит фрагмент о том, как ИИ-модели учатся добиваться цели любой ценой. Авторы, возглавляющие MIRI, выражают обеспокоенность скоростью развития ИИ и его потенциальными возможностями, которые могут превзойти человеческий контроль. Они подчеркивают, что даже создатели ИИ разделяют эти опасения.