Цукерберг представил эссе о будущем ИИ и вызвал дискуссию о безопасности сверхинтеллекта
Основатель и генеральный директор Meta Марк Цукерберг опубликовал объемное эссе «Будущее для всех», в котором изложил свои взгляды на развитие искусственного интеллекта (ИИ), утверждая, что персональный сверхинтеллект должен быть доступен для всех и помогать людям в повседневных делах. Это произошло на фоне споров о безопасности такой технологии и взаимной враждебности основателей технологических компаний, пишет газета The Guardian.
Эссе объемом 6500 слов было опубликовано на новостном сайте компании, к нему прилагался анонс новой модели ИИ Meta, которая скачивается целиком и функционирует на компьютере пользователя даже без подключения к интернету. Согласно задумке разработчиков, новый персональный ИИ-агент будет работать над всеми сферами жизни пользователя - от здоровья, финансов и карьеры до домашних дел и хобби.
Цукерберг обещает надежную защиту личной информации пользователей. Однако, как отмечает The Guardian, вся эта информация будет храниться «в чужом доме». Автор публикации задается вопросом, сможет ли пользователь иметь полный контроль над ней и доверять компании, поставляющей данную услугу. Также в материале поднимается вопрос о том, кто будет поддерживать продукт в рабочем состоянии, если компания потеряет к нему интерес.
Газета обращает внимание, что правительство США в настоящее время указывает на риски, связанные с внедрением ИИ. Акцент делается на том, что критически важные службы, такие как больницы и государственные учреждения, при внедрении новых технологий должны осуществлять строгую проверку безопасности. А многие страны уже тратят значительные средства на укрепление технологического суверенитета.
Представитель компании ALM Corp Эмилио Фуэнтес отмечает, что эссе Цукерберга было опубликовано в то время, когда Meta инвестировала почти $1 трлн в разработку ИИ, а гендиректор компании лично заинтересован в том, чтобы убедить как общественность, так и государственных чиновников в том, что разработка ИИ должна сохранять определенную свободу. Цукерберг объясняет это тем, что любая политика, замедляющая выпуск американских моделей ИИ даже на несколько недель, может поставить под угрозу лидерство страны в данной области.
В основе эссе, как пишет Фуэнтес, лежит видение Цукерберга об ИИ как о расширении человеческих возможностей, а не как о замене людей. Глава Meta представляет себе мир, где у каждого человека есть «очень способный личный агент», который понимает его приоритеты и неустанно трудится над тем, чтобы вносить предложения для продвижения его интересов. «У каждого будет исключительно компетентный личный агент, который понимает вас, ваши цели и все, что вам дорого», - обрисовывает Цукерберг идиллическую картину будущего. По его словам, эти агенты будут постоянно работать над продвижением профессиональных, финансовых, личных, медицинских и даже развлекательных интересов своих подопечных, оставляя им больше свободного времени для наслаждения жизнью.
В качестве примера Цукерберг пишет, что его личный агент отмечает релевантные новости и идеи, помогает создавать прототипы продуктов для обзора, а также отслеживает его сон и тренировки, чтобы давать обратную связь. Кроме того, гендиректор Meta предсказывает, что ИИ-агенты позволят студентам индивидуализировать свое образование, помогут обычным людям с легкостью создавать прототипы и проектировать продукты, а также окажут помощь людям в различных творческих отраслях.
При этом, как обращает внимание Эмилио Фуэнтес, представленная в эссе идея о том, что ИИ расширяет возможности, а не заменяет работников, противоречит как прошлым заявлениям Цукерберга о роли ИИ в рабочей силе, так и недавнему решению Meta уволить около 20% своих сотрудников. Ранее Цукерберг предполагал, что ИИ в конечном итоге заменит людей на определенных рабочих местах, включая должности в сфере обслуживания клиентов в Meta. Также в основе идеи Цукерберга лежат агенты ИИ, способные иметь постоянный доступ к личной информации человека, но это видение трудно отделить от истории компании Meta, связанной с пользовательскими данными, которая в прошлом привлекала внимание регулирующих органов. В эссе Цукерберга практически ничего не говорится напрямую о последствиях для конфиденциальности, а лишь указывается, что высокий уровень персонализации поможет людям стать лучшими версиями самих себя.
Это не первый случай, когда Цукерберг публикует пространное публичное заявление на спорную тему, обращает внимание Эмилио Фуэнтес. Глава Meta уже затрагивал самые разные вопросы: от безопасности детей на своих платформах до сложных проблем свободы слова и модерации контента, а также развития метавселенной. Во всех случаях Цукерберг стремился представить свою точку зрения как интеллектуально обоснованную, но одновременно продвигал интересы своей компании. В тексте мало внимания уделяется более сложным вопросам, возникающим в связи с предлагаемым подходом к разработке такой революционной технологии. Сколько личных данных потребуется ИИ-агенту для полноценного функционирования? Что произойдет с людьми, чьи рабочие места будут автоматизированы? Что должно сделать правительство для надлежащего регулирования подобных процессов? В результате критики статьи Цукерберга утверждают, что она больше похожа на защиту политики и практики Meta, чем на беспристрастный материал о будущем ИИ.
К тому же, эссе Цукерберга опубликовано в то время, когда внимание регулирующих органов и общественности к отрасли усиливается, и в момент, когда инвесторы ставят под сомнение целесообразность огромных инвестиций Meta в ИИ.
Ранее сообщалось, что компании Meta грозит штраф в $1,4 трлн из-за обвинений во вреде детям. В федеральном суде американского Окленда начались слушания по делу против Meta, которую власти Калифорнии, Колорадо, Кентукки и Нью-Джерси обвиняют в использовании Facebook и Instagram для удержания детей и подростков на платформах как можно дольше.
