Ключевые выводы
- Такие платформы, как Facebook, показывают, как системы, ориентированные на пользователя, могут со временем прийти в упадок. Кори Доктороу называет это «эншиттификацией» — циклом, в котором платформы переходят от обслуживания интересов пользователей к достижению целей заинтересованных сторон.
- ИИ может пойти по тому же пути. Высокие затраты на вычисления и финансовые потери подталкивают компании к использованию рекламы, платного доступа и «фримиум»-функций, ослабляя бесплатный пользовательский опыт.
- Снижение качества моделей, ограниченные уровни бесплатного пользования, встроенная реклама в чат-ботах и непрозрачные системы ранжирования являются одними из первых признаков эншитификации ИИ. Это вызывает обеспокоенность по поводу того, что разрушение ИИ пойдет по тому же пути, что и на старых технологических платформах, таких как Facebook.
Было время, когда Facebook был теплым и личным. Вы открыли приложение и увидели реальные обновления от друзей и семьи.
Однако каналы Facebook с годами изменились. Теперь он показывает нерелевантные сообщения со страниц, которые вам нравились много лет назад, рекламу продуктов, которые вас не интересуют, и обновления от людей, которые, по мнению платформы, должны вас интересовать.
По словам писателя и журналиста Кори Доктороу, это не только Facebook; многие из наших любимых технологических платформ, таких как Amazon и Uber, потерпели неудачу на пути к более высокой прибыли. Он ввел термин «эншитификация» за этот преднамеренный упадок технологических платформ.
Поскольку ИИ проникает во все аспекты нашей жизни, естественно задаться вопросом: пойдет ли ИИ по тому же пути? Хуже того, готовы ли мы к этому? Но давайте сначала ответим на более важный вопрос: как именно происходит эншиттификация?
Как платформы гниют намеренно
Кори Эфраим Доктороу сказал, что эншиттификация происходит в три этапа:
1. Привлечение пользователей
На первом этапе технологические платформы привлекают аудиторию благодаря хорошему пользовательскому опыту и ценным функциям. Затем они блокируют пользователей с помощью подхода, ориентированного на потребителя, что затрудняет им выход из экосистемы.
Подумайте о старых добрых временах Facebook, когда платформа не пыталась каждую секунду запихивать вам в глотку рекламу, а в основном показывала вам обновления от ваших самых близких друзей.
Это то, что заставило пользователей полностью вложиться. Как? Вы загружали фотографии, создавали группы и вели страницы в Facebook. Все это затрудняло уход, потому что большая часть вашей социальной жизни проходила на Facebook.
2. Злоупотребление пользователями ради выгоды для бизнеса
Когда платформам удается привлечь большое количество пользователей, интересы заинтересованных сторон и бизнеса, как правило, играют более важную роль. Давление с целью увеличения прибылей становится нормой, акционеры начинают требовать улучшения балансов, и технологические компании должны ответить.
Вот тогда эншиттификация поднимает свою уродливую голову. На этом этапе платформы больше ориентируются на интересы бизнес-клиентов.
В случае с Facebook компания начала отслеживать вашу активность, чтобы продвигать таргетированную рекламу. Это также ограничило охват постов, вынуждая вас платить за повышение.
Вдобавок ко всему, вашу ленту заполонили вирусные страницы и постоянные предложения, скрывая настоящие новости от людей, которые вам небезразличны.
3. Злоупотребление всеми ради прибыли заинтересованных сторон
На заключительном этапе технологические платформы извлекают как можно большую ценность для своих владельцев и акционеров за счет как конечных пользователей, так и бизнес-клиентов.
Facebook пошел по тому же пути.
Теперь пользователи видят множество спонсируемых публикаций, рекламы на торговых площадках и несвязанных страниц. Рекламодатели, как отметил Кори, столкнулись с ростом затрат, снижением доходов и ростом мошенничества с рекламой. Неудивительно, что один из крупнейших рекламодателей мира, P&G, сократите цифровые расходы один раз из-за напрасных расходов на цифровую рекламу.
И помни, когда Yahoo отклонила предложение о покупке Google за 1 миллион долларов потому что они думали, что это будет означать меньше рекламы? Та же история. А
По словам Кори Эфраима Доктороу, эншиттификация уже началась в ведущих технологических компанияхтакие как Amazon, Uber и Microsoft.
Итак, справедливо задаться вопросом, движется ли ИИ тем же путем.
Почему существует реальный шанс эншитификации ИИ
Спойлер: да, ИИ может скатиться к эншитификации, потому что стимулы подталкивают его в этом направлении.
Компаниям, занимающимся искусственным интеллектом, требуются значительные средства для постоянного строительства и эксплуатации центров обработки данных. Потребление электроэнергии является большой проблемой, поскольку, по оценкам Deloitte, центры обработки данных могут легко потреблять электроэнергию. более 1000 террават-часов к 2030 году.
А стоимость компьютерного оборудования уже стремительно растет. Сэм Альтман из OpenAI запускает IPO на сумму 1 триллион долларов в прошлом месяце.
Таким образом, лишь горстка компаний, занимающихся искусственным интеллектом, выживет и будет процветать на рынке. Меньшее количество игроков означает меньшую конкуренцию, что дает компаниям возможность заблокировать функции за платным доступом или реализовать рекламу.
Кроме того, большинство ведущих компаний, занимающихся искусственным интеллектом, по-прежнему работают в убыток. OpenAI, создатель самого популярного в мире чат-бота с искусственным интеллектом ChatGPT, до сих пор терять деньги. Еще один ИИ-игрок, Anthropic, также не выгодно.
Это растущее давление может заставить компании, занимающиеся искусственным интеллектом, искать альтернативные способы заработать больше денег. И это классическое начало пути по эншитификации, где интересы конечного пользователя отвлекаются в погоне за прибылью.
Кроме того, существуют признаки пузыря ИИ. Таким образом, если пузырь лопнет, компании, занимающиеся искусственным интеллектом, скорее всего, поспешат выжать больше пользы из пользователей, что может ускорить эншитификацию.
Поскольку LLM похожи на черные ящики, мы не знаем, что находится внутри и как вы видите результаты в своем чат-боте. Итак, Кори считает, что компаниям, занимающимся искусственным интеллектом, легко скрыть свои методы эншитификации.
У них есть способность замаскировать свое дерьмо таким образом, чтобы им сошло с рук очень многое… Я думаю, что они испробуют все возможные гамбиты, которые вы можете себе представить, пока экономика идет на спад.
– Кори Доктороу, Проводной
Что происходит, когда ИИ перестает работать так, как вы ожидаете
ИИ — это не просто инструмент повышения производительности; теперь это часть нашей повседневной жизни. Люди используют чат-ботов для написания электронных писем, обобщения документов и принятия решений о покупке. Некоторые даже используют его для планирования свадьбы, принятия важных жизненных решений и… жульничества на экзаменах по естествознанию.
В соответствии с Собственные данные OpenAIChatGPT имеет более 700 миллионов пользователей в неделю. Из них 49% используют его для «задавания вопросов», включая моменты, когда люди хотят прояснить сложную тему или получить совет.
А теперь представьте, что OpenAI монетизирует и пропагандирует ChatGPT для аудитории, которая использует его для всего и вся.
Ответы могут показаться более слабыми, медленными или предвзятыми; повседневные задачи, такие как написание или подведение итогов, могут занимать больше времени, а советы по покупке будут смещаться в сторону платных рекомендаций.
И влияние не ограничивается обычными пользователями. Компании, которые зависят от искусственного интеллекта, тоже ощущают это напряжение, даже сильнее.
Согласно Отчет МакКинси88% компаний регулярно используют ИИ хотя бы для одной бизнес-функции. Для этих компаний эншитификация ИИ может привести к снижению производительности.
Это может замедлить рабочие процессы и ухудшить качество результатов, а также заставить команды тратить больше времени на задачи, которые раньше они решали за считанные минуты.
Конечный результат = прибыль может пострадать. А прибыль – это основа большинства предприятий.
Реальные признаки упадка ИИ
Компании, занимающиеся искусственным интеллектом, активно осваивают рекламное пространство. Теперь пользователи могут покупайте товары прямо в ChatGPTи Walmart уже работает с OpenAI, чтобы показывать списки продуктов прямо в чате.
Растерянность тоже экспериментирую с рекламойхотя он приостановил новые рекламные сделки.
Могут ли это быть признаки эншиттификации ИИ? Ну это спорно. Но одно можно сказать наверняка: когда платформа сочетает ответы с рекламой, грань между помощью и доходом становится размытой.
Риск возрастает, поскольку пользователи доверяют ИИ, который действует как нейтральный гид. Но как только реклама находится в том же пространстве, что и органические ответы, вы не можете легко определить, какая часть служит вам, а какая — платформе.
А когда система не раскрывает параметры, используемые для ранжирования или выбора результатов, вы больше не знаете, заменил ли платный выбор органический выбор, который лучше соответствовал вашему запросу.
Более того, уже появляются свидетельства снижения качества ИИ. В соответствии с Исследование Стэнфорда и Калифорнийского университета в Беркликачество ответов ChatGPT продемонстрировало тревожное снижение.
Кроме того, платформы искусственного интеллекта сейчас сокращают свои уровни бесплатного пользования за счет ограничения количества сообщений и более слабых резервных моделей. Например, пользователь бесплатного ChatGPT может отправлять до 10 сообщений каждые 5 часов с помощью последней модели OpenAI, GPT-5.1.
Эти ограниченные уровни бесплатного пользования подталкивают пользователей к платным планам, указывая на раннюю модель эншиттификации, когда полезные сервисы постепенно обменивают пользовательскую ценность на давление на доходы.
Что это оставляет нам сейчас?
ИИ в целом может принести реальную пользу, помогая миллионам людей работать быстрее и жить более полноценной жизнью. Но риск эншиттификации существует, нравится вам это или нет, и он обусловлен высокими затратами и давлением роста.
Мы уже видели, как эта закономерность проявлялась раньше на примере таких технологических компаний, как Facebook. Итак, вопрос не в том, будет ли ИИ может упасть в ту же пропасть. Скорее, это когда и как это произойдет.
Стоит отметить, что такие компании, как Google, находятся в ином положении, имея стабильные потоки доходов из других источников. Таким образом, они могут подождать, пока ИИ заработает деньги, прежде чем извлекать выгоду из пользователей.
Однако OpenAI, ведущая компания в области искусственного интеллекта, не может позволить себе такой роскоши. Оно должно привлекать больше людей и продолжать приносить пользу.
Это создает постоянный танец между предложением реальной помощи и скатыванием к эншитификации. Кроме того, давление расходования денежных средств также может привести к поспешным или недружественным решениям по вытеснению пользователей.
Тем не менее, путь вперед не фиксирован. Выбор, который эти компании, занимающиеся искусственным интеллектом, сделают сейчас, определит, насколько мы сможем доверять искусственному интеллекту завтра.
Редакционная политика Tech Report направлена на предоставление полезного и точного контента, который представляет реальную ценность для наших читателей. Мы работаем только с опытными авторами, которые обладают конкретными знаниями по темам, которые они освещают, включая последние разработки в области технологий, программного обеспечения, аппаратного обеспечения и многого другого. Наша редакционная политика гарантирует, что каждая тема исследуется и курируется нашими штатными редакторами. Мы соблюдаем строгие журналистские стандарты, и каждая статья на 100% написана реальными авторами.
