Могут ли новостные агентства создать «надежного» чат-бота с искусственным интеллектом?

Миа Сато, репортер платформ и сообществ с пятилетним опытом работы, освещающий компании, которые формируют технологии, и людей, которые используют их инструменты.

Издатели новостей с головой ушли в искусственный интеллект, используя генеративные инструменты искусственного интеллекта для создания скучных путеводителей, неточных киноблогов и поясняющих SEO-приманок. По большому счету, цель заключалась в следующем: можем ли мы создать больше страниц для рекламы, не платя больше авторам?

Теперь группа технических изданий пытается внедрить генеративный искусственный интеллект на свои веб-сайты, хотя читатели не скоро найдут имя машины. 1 августа в Macworld, PCWorld, Tech Advisor и TechHive был добавлен инструмент чат-бота с искусственным интеллектом, обещавший, что читатели смогут «получить [на свои] технические вопросы, ответы от ИИ, основываясь только на историях и обзорах наших экспертов».

Чат-бот с искусственным интеллектом, получивший название Smart Answers, появляется почти во всех статьях и на домашних страницах сайтов, принадлежащих медиа/маркетинговой компании Foundry. Smart Answers обучается только на основе статей на английском языке с четырех сайтов и исключает спонсируемый контент и сообщения о предложениях. Пользовательский интерфейс аналогичен другим потребительским инструментам, таким как ChatGPT: читатели вводят вопрос, а Smart Answers выдает ответ. Кроме того, читатели могут выбрать вопрос из списка часто задаваемых вопросов, который создается искусственным интеллектом, но на основе того, что люди спрашивают и на что нажимают. Ответы Smart Answers включают ссылки на статьи, из которых была взята информация.

Цель, по словам руководства, состоит в том, чтобы помочь читателям искать конкретные фрагменты информации среди горы текста.

«У нас есть огромное количество контента. Но иногда вы не хотите читать 2000 слов великой журналистики — иногда вам просто нужен конкретный факт», — рассказал The Verge Нил Беннетт, глобальный директор по продуктам и данным Foundry.

По словам Беннетта, компания работала над разработкой Smart Answers около пяти месяцев до запуска и проводила этапы тестирования с редакцией в течение двух-трех месяцев. Рабочая группа сотрудников редакции тестировала ранние версии инструмента и оценивала ответы до тех пор, пока они не были удовлетворены ответами.

«Во время нашего тестирования нам действительно нужно было следить за тем, чтобы ответы, которые они дают, действительно заслуживали доверия, это те же самые ответы, которые дал бы редактор», — говорит Мари Блэк, директор редакции Foundry.

Предполагается, что Smart Answers может решить ключевую проблему, с которой пользователи сталкиваются при использовании других инструментов искусственного интеллекта: склонность совершать ошибки, цитировать несуществующие источники или изобретать ложную информацию, которая звучит правдоподобно. Smart Answers обучается только на контенте, который должен соответствовать стандартам публикации в авторитетных изданиях, но говорить о том, что чат-бот сможет предоставлять ответы на уровне редактора, все еще является большой надеждой.

Smart Answers не справляется с запросами, которые кажутся простыми. Когда я спросил чат-бота: «Когда был выпущен последний iPod Nano?» в нем неверно указано, что он был выпущен и снят с производства в 2022 году. Через несколько дней ответ изменился: «У меня недостаточно информации, чтобы ответить на этот вопрос».

Чат-бот часто отвечает таким образом; например, он не знает, кто является генеральным директором TikTok. Это может быть отражением типа освещения, которое делают (или не делают) агентства Foundry. Это одновременно и ограничение, и хорошая вещь: с одной стороны, у кого-то, использующего этот инструмент, скорее всего, все еще останутся вопросы, и ему придется обратиться в другое место, чтобы получить ответы. Но в этих случаях, по крайней мере, он не придумывает что-то только для того, чтобы получить ответ.

В случае с запросом об iPod Nano Блэк предположил, что, возможно, чат-бот извлекал информацию из старых историй об iPod, которые не обновлялись годами. (Устройство было снято с производства в 2017 году.) В случае подобных ошибок Foundry полагается на отзывы пользователей о полезности ответов — если читатели или сотрудники обнаруживают проблемы, они возвращаются в Miso.AI, компанию по искусственному интеллекту, создающую чат-бота Foundry.

Smart Answers служит другой цели: партнерскому доходу.