Бельгийский медиахолдинг отстранил опытного журналиста из-за цитат, сгенерированных ИИ

Бельгийский медиахолдинг Mediahuis отстранил опытного журналиста после скандала с использованием искусственного интеллекта: в его материалах обнаружили ложные цитаты, сгенерированные ИИ, что вновь подняло вопрос о рисках применения ИИ в журналистике и необходимости проверки фактов, сообщает The Guardian.

В медиахолдинге Mediahuis временно отстранили одного из опытных журналистов после того, как он признал использование искусственного интеллекта для создания недостоверных цитат.

Питер Вандермерш, ранее возглавлявший ирландское подразделение компании, заявил, что «попал в ловушку галлюцинаций ИИ» — так называют ошибки, при которых системы вроде ChatGPT, Perplexity и Google NotebookLM создают правдоподобную, но неточную информацию.

По его словам, он использовал ИИ для подготовки кратких пересказов материалов, но не проверял, насколько точны цитаты, полученные из этих резюме. Позже он публиковал их в своей рассылке на Substack.

Ошибки выявило расследование газеты NRC, входящей в тот же медиахолдинг. Издание сообщило, что Вандермерш опубликовал десятки ложных цитат, а несколько упомянутых в его текстах людей заявили, что не делали таких высказываний.

Журналист признал, что в ряде случаев выдавал собственную интерпретацию за прямую речь. Он назвал это не просто небрежностью, а ошибкой.

Вандермерш также отметил, что допустил вторую ошибку — не исправил недостоверные цитаты сразу.

В Mediahuis подчеркнули, что в компании действуют строгие правила использования ИИ, включая обязательную проверку фактов, прозрачность и контроль со стороны человека. Нарушение этих принципов стало причиной его временного отстранения.

Кроме того, с сайта Irish Independent были удалены некоторые его материалы.

Случай вновь привлёк внимание к рискам использования ИИ в журналистике. Несмотря на широкое применение таких технологий, они по-прежнему могут допускать ошибки и требуют проверки.

Сам Вандермерш заявил, что считает ИИ полезным инструментом, способным улучшить журналистику, но только при ответственном использовании.

Сергей Сташевский

Читайте также:

В Голливуде «вернут» умершего Вэла Килмера в полнометражный фильм с помощью ИИ