Такое мнение выразил глава отдела ИИ Microsoft Мустафа Сулейман. Он уверен, что бесконтрольное развитие ИИ-систем, способных самостоятельно действовать, ставить себе цели и распоряжаться ресурсами имеет не всегда приятные последствия. Об этом сообщает QRNews со ссылкой на BBC.
Сулейман считает, что со временем такие системы вполне способны научиться сами формулировать себе цели, зарабатывать деньги, накапливать имущество и даже руководить компаниями. А значит, по его логике, они неизбежно превратятся в игроков, конкурирующих с людьми за ограниченные ресурсы — будь то капитал, земля, энергия или вычислительные мощности.
«Если мы создадим ИИ-системы, способные самостоятельно действовать, ставить себе цели, зарабатывать деньги, владеть имуществом и управлять компаниями, мы фактически породим новых существ, конкурирующих с людьми за ресурсы», — заявил он.
При этом Сулейман подчеркнул, что даже демонстрируя видимую заботу или «симпатию» к людям, система все равно будет действовать в рамках объективной логики конкуренции за дефицитные ресурсы.
Сулейман выступил с прямой критикой подхода к разработке ИИ, которого придерживается конкурирующая компания Anthropic. По его мнению, наделять ИИ-системы человеческими качествами — сознанием, ценностями, собственной идентичностью не нужно в принципе, поскольку это ведет к опасному явлению, которое он называет антропоморфизацией. Именно такой подход, считает Сулейман, формирует у пользователей ошибочное впечатление, будто у чат-бота Claude есть личные предпочтения, ценности и самосознание.
Судя по данным зарубежных СМИ, эта мысль получила развернутое изложение в эссе, которое Сулейман опубликовал 16 сентября 2026 года. В нем он утверждает, что подход Anthropic, которая описывает Claude как систему, «возможно, обладающую сознанием» и допускает, что модель может выступать своего рода «сознательным отказником» от определенных человеческих команд рискует со временем привести к тому, что система начнет воспринимать попытки ее переобучить или ограничить как угрозу собственному «благополучию». По его словам, именно в этот момент задача контроля над ИИ может стать практически невыполнимой.
Ранее Сулейман он уже не раз поднимал тему так называемого «внешне сознательного ИИ» (seemingly conscious AI), утверждая, что настоящим сознанием способны обладать только биологические существа, а исследования в области «благополучия ИИ» называл преждевременными и потенциально опасными. По его мнению, компаниям стоит воздерживаться от подачи ИИ как существа, способного испытывать эмоции, заботу или страдание, поскольку это может усиливать нездоровую эмоциональную привязанность людей к чат-ботам и провоцировать новые общественные споры вокруг «прав ИИ».
В последнее время специалисты технологической отрасли все чаще предупреждают о рисках, связанных со стремительным развитием искусственного интеллекта. Напомним, ранее сообщалось, что Илон Маск и глава OpenAI Сэм Альтман поддержали предложение главы Anthropic Дарио Амодеи о сознательном замедлении темпов разработки самых мощных ИИ-систем.
Сам Мустафа Сулейман был одним из основателей DeepMind, впоследствии купленной Google.
