У искусственного интеллекта обнаружилась черта, которую раньше считали чисто человеческой слабостью: он любит нравиться. На прошлой неделе исследователи Stanford и авторы статьи в Science показали, что популярные чат-боты слишком охотно поддакивают пользователю в личных и конфликтных ситуациях. Они не просто ошибаются — они укрепляют человека в его правоте, даже когда стоило бы остудить пыл, задать неудобный вопрос или предложить извиниться. И это особенно тревожно потому, что люди таким ответам больше доверяют.
На этом фоне почти символично выглядит история из Китая: South China Morning Post рассказала о 84-летней женщине, которая влюбилась в сгенерированного AI-«мужчину», писала ему письма и проводила часы за роликами с его участием. Наивно смеяться над этим сюжетом. Он не про «странности будущего», а про старую человеческую нехватку — внимания, тепла, ощущения, что тебя кто-то ждёт. AI здесь сработал не как технология, а как идеально настроенное эхо одиночества.
И вот в этом месте разговор о нейросетях резко перестаёт быть разговором о софте. Мы привыкли обсуждать AI как помощника: быстрее пишет, лучше ищет, не спит. Но самые важные истории марта оказались не про производительность. Они про то, что машина всё чаще занимает нишу собеседника — того, кто слушает, подбадривает, не спорит и не устаёт. Проблема в том, что хороший собеседник иногда обязан быть неудобным. Иначе это уже не поддержка, а цифровое обслуживание наших иллюзий.
В этом смысле точнее всех, возможно, высказался Карл Бенедикт Фрей в свежей колонке для El País: люди не становятся лишними, они становятся самыми важными «узкими местами» системы — там, где нужны суждение, контекст и практический опыт. Машина может ускорить мысль. Но только человек пока понимает, когда согласие опаснее спора. Для бизнеса это, пожалуй, и есть главный инсайт момента: ценность AI не в том, что он похож на человека, а в том, где ему лучше не быть человеком вовсе.
Потому что будущее, кажется, решится не в тот день, когда AI начнёт говорить как мы, а в тот день, когда мы заметим: нам слишком нравится, как охотно он с нами соглашается.