«Крестный отец» ИИ Джеффри Хинтон призвал запретить разработку сверхмощных систем

Нобелевский лауреат Джеффри Хинтон, известный как «крестный отец» искусственного интеллекта, заявил, что правительства мира должны запретить разработку сверхмощных ИИ-систем. В интервью The Times он предупредил, что такие технологии могут привести к исчезновению человечества.

Хинтон, всемирно известный психолог и специалист в области компьютерных наук, получил Нобелевскую премию по физике в 2024 году за фундаментальные открытия, позволяющие осуществлять машинное обучение с помощью искусственных нейросетей. Речь идет о технологии «глубокого обучения», на которой основаны современные нейросети, включая ChatGPT и системы для беспилотных автомобилей.

По словам ученого, в настоящее время не существует возможности безопасной разработки «суперинтеллекта» — искусственной системы, превосходящей интеллект человека. «Мы были бы дураками, разрабатывая сейчас суперинтеллект, поскольку в научном мире отсутствует консенсус по поводу возможности делать это безопасно и контролируемо», — подчеркнул профессор. Он добавил, что потеря контроля над ИИ, более умным, чем люди, стала бы катастрофой и могла бы привести к исчезновению человечества.

Вместе со студентами Хинтон в 2012 году создал нейросеть AlexNet, которая победила в конкурсе по распознаванию изображений ImageNet. Как отмечают эксперты, это доказало эффективность глубоких нейросетей и дало старт современному буму в области ИИ.