Почему ChatGPT и другие нейросети ошибаются и как проверять их ответ

1. Почему ИИ-сервисы ошибаются?

Несмотря на растущие возможности современных нейросетей, они имеют ограничения и недочеты. Ошибаться ChatGPT, Gemini, Claude и другие ИИ-сервисы могут по разным причинам: от специфики обучающих данных и принципов работы языковых моделей до некорректно сформулированного запроса или ограничений конкретного инструмента. Разберем подробнее, почему слепо доверять нейросетям не стоит. И речь именно про фактические данные, а не генерацию изображений с лишними пальцами и т.д.

1.1 Проблемы с исходной информацией

Суть: ИИ-сервис может знать только то, что попало в его языковую модель LLM (Large Language Model) или доступно ему в момент ответа.

Почему так происходит: Причина ошибки кроется в неоднородности данных:

• устаревшей информации;
• противоречивых источниках;
• дефиците данных по новым товарам, сложным нишам;
• отсутствии доступа к конкретной информации.

Пример: Когда новые смарт-часы только поступили в продажу, на официальном сайте их еще может не быть (как и точной информации про наличие NFC и другие функции). Нейросеть будет использовать сведения с различных новостных площадок, где нередко указываются предварительные (и по факту ошибочные) данные.

1.2 Вероятностный принцип генерации текста — ИИ не знает, что правда

Суть: ИИ генерирует самый вероятный ответ, а не проверяет его достоверность. Еще в диалоге нейросеть старается «угодить» пользователю (следствие вертикальной иерархической системы).

Почему так происходит: В отличие от человека ИИ-сервис не делает проверку фактов и вообще «не понимает», где правда и ложь. Нейросеть генерирует наиболее вероятное продолжение текста на основе тех закономерностей, которые были обнаружены при машинном обучении. Поэтому ИИ иногда ошибается, выдавая убедительно звучащую, но неверную информацию.

Пример: При вашем вопросе о поддержке Wi-Fi 7 у определенного смартфона ИИ может ответить утвердительно, если такая функция характерна для родственных решений или моделей того же ценового сегмента, хотя конкретный телефон работает только с Wi-Fi 6E.

1.3 Галлюцинации

Суть: Если ИИ не хватает данных, то из-за вероятностного принципа генерации сервис может «достроить» ответ, выдумав недостающие факты.

Почему так происходит: Вместо того чтобы признать недостаток данных и ответить «я не знаю», нейросеть иногда «галлюцинирует», то есть генерирует правдоподобную, но вымышленную информацию. Это могут быть несуществующие характеристики, фейковые ссылки и исследования, придуманные «на ходу» модели устройств.

Пример: ИИ-сервис может указать точную автономность конкретных TWS-наушников, сославшись на обзор авторитетного издания или результаты тестов, в духе «по данным SoundGuys», хотя де-факто на этом сайте обзора модели нет.

1.4 Неправильное понимание запроса и контекста

Суть: Чем менее однозначен пользовательский запрос, тем выше шансы, что ИИ неверно поймет его и даст ошибочный ответ.

Почему так происходит: Неоднозначные формулировки, сарказм, отсутствие важных деталей или перегруженный информацией запрос с несколькими противоречивыми требованиями затрудняет работу для нейросети. Плюс ИИ не может знать контекста, допустим, если вы видеоблоггер и предпочитаете технику с хорошей камерой. Вместо уточняющего вопроса ИИ нередко дает ошибочный ответ.

Пример: Пользователь спрашивает: «Какой Samsung лучше?» ИИ не знает, про что вы — смартфоны, телевизоры или вообще про духовки. А даже если он уточнит это, а вы ответите телефон, нейросеть может дать противоречивый ответ, не зная, что для вас лучше — классная камера, автономность, производительность, баланс цены и качества.

1.5 Ограничения конкретного сервиса

Суть: Точность ответа зависит от возможностей конкретного сервиса.

Почему так происходит: ИИ используют разные языковые модели, имеют неодинаковый доступ к актуальным данным и веб-поиску, кроме того отличия и дополнительные ограничения могут быть связаны с бесплатными и платными версиями инструмента. Поэтому в каких-то вопросах точнее может оказаться одна нейросеть, а в каких-то — другая.

Пример: В вопросе о характеристиках нового планшета один сервис сможет найти актуальные данные в интернете и правильно указать название процессора, а другой — укажет устаревшую конфигурацию или что-то выдумает.

• качество исходных данных определяет то, на что опирается нейросеть;
• вероятностный принцип работы влияет на формирование ответа;
• недостаток информации нередко приводит к галлюцинациям;
• снизить точность ответа способны неоднозначные запросы пользователя и ограничения конкретного сервиса.

Из-за этого ответы нейросетей не стоит воспринимать как истину в последней инстанции. Особенно если речь идет об ответственных решениях, например, выборе дорогостоящей техники, совместимости тех или иных устройств, не говоря уже про вопросы здоровья, безопасности, юриспруденции, финансов, где цена ошибки еще выше. Лучше потратить время на базовую настройку ИИ-сервиса и фактчекинг, чем принять неверное решение.

2. Как настроить нейросеть, чтобы повысить точность ответов

Сразу оговоримся — нельзя настроить ИИ-сервис так, чтобы он вовсе перестал ошибаться. Но можно заметно снизить риски некорректных ответов за счет инструкций и правильной организации работы.

Начнем с базовой настройки на примере ChatGPT. Первым делом убедитесь, что для сервиса активна галочка в поле Higher Intelligence («Вищий інтелект»).

Что это дает:

• ИИ глубже анализирует вопрос;
• лучше справляется со сложными логическими задачами и сравнением информации;
• реже делает поверхностные выводы;
• чаще выявляет неоднозначности и противоречия.

Второй момент — указание базовых инструкций для сервиса.

Что тут стоит указать:

• всегда к моим предложениям и информации относись критично;
• если не знаешь ответ, то лучше так и отвечай, а не предполагай что-либо;
• не выдумывай факты;
• признавай неопределенность;
• по возможности подкрепляй свои ответы ссылками на авторитетные источники;
• пиши кратко и структурировано.

Этот перечень может быть шире и касаться не только повышения точности ответов. Даже в бесплатной версии ChatGPT в поле Custom Instructions можно добавить до 1500 символов (а в платных — до 5000 знаков).

Если вам всегда важнее точность, а не скорость, то рядом с Custom Instructions («Специальные инструкции») имеется пункт Quick responses («Быстрые ответы»), а данный ползунок стоит сделать неактивным. Правда, влияние на ошибки для этой настройки минимально.

Дополнительные прикладные инструкции стоит прописать для Проектов — Projects. Допустим, если вы планируете использовать ChatGPT для проверки характеристик гаджетов и бытовой техники, то можно создать профильный проект, внутри которого каждый новый чат будет «заточен» на эту задачу. Чтобы создать проект, нужно в левой боковой панели найти соответствующий пункт и кликнуть на иконку «+».

Далее указываем название: для нашего примера «Перевірка товарів». Затем в окне проекта в правом верхнем углу ищем кнопку с тремя точками и выбираем «Налаштування проєкту». А там есть свое поле инструкций, где можно задать основные исходные данные.

Для проекта можно указать еще более конкретные рекомендации применимо к гаджетам и товарам:

• отдавай приоритет официальным данным производителей;
• не предполагай и не выдумывай характеристики товара;
• если есть противоречия, то сообщай об этом;
• для важных технических параметров используй веб-поиск и сообщай, если сведения не удалось подтвердить;
• если нет данных на официальных сайтах производителя, ищи документацию;
• если нет ни страницы официального сайта, ни документации, тогда ориентируйся на авторитетные профильные издания, лаборатории, обзорщиков;
• не делай выводов на основе типичных характеристик устройств определенного класса;
• не считай информацию достоверной только потому, что она встречается на сайтах нескольких интернет-магазинов;
• если характеристики зависят от региона, года выпуска или ревизии устройства, обязательно скажи об этом;
• при сравнении товаров используй только сопоставимые характеристики и не смешивай данные разных модификаций.

Ниже два ответа на один вопрос до всех настроек (общих и для проекта) и после.

Кажется, что стало действительно лучше.

2.1 Корректные и точные запросы

Правильные формулировки вопросов от пользователя ИИ-сервиса тоже очень важны. Это уже не про настройку и еще не про проверку достоверности, но вероятность ошибок снижается, если вы будете:

• задавать точные вопросы: вместо «какой телевизор лучше» — «сравни 55-дюймовые версии LG C5 и Samsung S95F по качеству изображения»;
• не мешать вопросы в одну кучу: вместо «Сравни три смартфона (указание моделей), расскажи про их камеры, автономность, процессоры, стоит ли переплачивать» разделите все это на части и двигайтесь по порядку;
• указывать точные названия устройства: вместо «Galaxy A56» лучше прописать «Samsung Galaxy A56 256 ГБ / 12 ГБ» и тогда, например, ответ про производительность будет явно точнее.

Прямо в своем запросе можно указать дополнительные рекомендации:

• если характеристику нельзя подтвердить, прямо сообщи об этом;
• оцени уверенность в каждом ключевом параметре устройства;
• отмечай данные, которые под сомнением.

Лучше перечитать свой текст до нажатия на Enter, ведь описки или пропущенные запятые могут менять суть вопроса. Еще помните, ИИ ничего не знает о вашем контексте. Ваша цель уже при вопросе оставить минимум пространства для двусмысленности: так шанс получить точный ответ возрастет.

Как это работает на примере с Xiaomi 17T Pro 512 ГБ (выше был указан просто Xiaomi 17T, что не уточняло ни версию, ни конфигурацию памяти):

3. Как выполнять фактчекинг ИИ

Правило «доверяй, но проверяй» отлично подходит к взаимодействию с нейросетями. При этом многие приципы фактчекинга ответов ИИ-сервисов довольно просты.

3.1 Первичная проверка: выявляем внутренние противоречия

Стоит внимательно ознакомиться с ответом и выявить любые несоответствия. При сомнениях всегда можно задать банальный уточняющий вопрос:

• ты уверен;
• проверь еще раз;
• на чем основываются данные про…

Даже на этом этапе ИИ-сервис нередко корректирует свои ошибки. Вот, как это сработало со стиралкой Hansa WHS7120D2BSW и довольно скользкой темой конкретных программ:

3.2 Дефицит конкретики — повод насторожиться

Чем больше в ответе ИИ общих фраз и меньше конкретики, тем выше шансы, что нейросеть не имеет данных и додумывает или галлюцинирует. Особенно стоит насторожиться, если сервис:

• не приводит цифр;
• использует много оценочных формулировок («один из лучших», «очень хороший», «как правило»);
• не объясняет своих выводов.

Кстати, если хорошо прописать общие инструкции для ChatGPT, то вероятность «водянистых» ответов снижается, что видно на примере Thomas Aquatic Onyx:

3.3 Проверка ссылок и источников

Если ИИ-сервис ссылается на обзор товара, страницу официального сайта или документ (инструкцию, этикетку энергоэффективности и т.д.), то рекомендуется ознакомиться с ними. Так вы исключите фейковые ссылки (подобное случается) и сможете проверить — есть ли там подтверждение характеристик и функций.

Вероятность ошибочного ответа ИИ намного повышается, если есть:

• несуществующие статьи;
• нерабочие URL;
• ссылки, которые ведут на другой материал;
• цитаты, отсутствующие в первоисточнике.

Ниже интересный пример с ошибками на основе изучения характеристик стиральной машины LG F4A10S8NWK:

Пояснение: Данный пример в целом весьма сложный, так как испанская версия сайта LG говорит об отсутствии функции AI DD (а значит и фирменного инверторного двигателя с прямым приводом DirectDrive), а британская — о его наличии. Но галлюцинации у ChatGPT это не оправдывает, ведь он после корректировок британскую версию сайта называет украинской, а что еще хуже — указывает, что у данной стиралки есть ThinQ (удаленное управление по Wi-Fi), но на UK-сайте четко указано, что нет:

3.4 Попросите ИИ проверить самого себя

ChatGPT и другие нейросети можно попросить сменить роль и выступить в качестве фактчекера. Копируем ответ, открываем новый чат (это оправданный шаг — ведь так снижается привязка языковой модели к предыдущему диалогу) и пишем: «Найди ошибки, противоречия или спорные утверждения в тексте» и вставляем фрагмент в диалог.

Такую самопроверку мы сделали для телевизора Skyworth 55X87PRO. Сначала запросили мини-обзор, а потом фактчекинг:

ChatGPT неплохо исправляет сам себя, как минимум, находя оценочные суждения и маркетинговые фразы.

3.5 Сравните ответ с другими ИИ

ChatGPT, Claude, Gemin и другие нейросети обучались на разных данных и используют отличающиеся алгоритмы. Если два-три независимых сервиса расходятся в ответах, это повод проверить информацию еще тщательнее. Хотя и совпадение ответов не гарантирует, что они верны: разные модели могут повторять ошибки.

Сгенерированный ChatGPT обзор ТВ от Skyworth мы проверили в Gemini:

В целом его вердикт тоже показывает наличие оценочных суждений, но в целом менее конструктивен и более придирчив к мелочам.

3.6 Проверка информации в авторитетных источниках

Применимо к различным гаджетам и товарам — проверять данные стоит в такой последовательности (от более достоверных к менее весомым):

• официальный сайт;
• инструкция и другая техническая документация;
• известные профильные издания, лаборатории, каталоги и прайс-агрегаторы;
• интернет-магазины с хорошей репутацией.

ИИ-сервисы можно использовать, чтобы эти авторитетные источники найти, если официальный сайт не фигурирует в ТОПе выдачи по запросу «Название товара + official».

В случае с другой информацией ориентироваться можно на Википедию (при условии, что статьи не отмечены, как сомнительные), государственные ресурсы и сайты международных институтов, вроде ВОЗ, образовательные платформы, справочные системы, СМИ, которым вы доверяете.

4. Выводы

Подозревать ИИ-сервисы в ошибках постоянно — это паранойя. Более тщательно проверять информацию нужно тогда, когда она действительно важна для вас. Так, придираться к точности цифр в результатах теста AnTuTu Benchmark вряд ли стоит, даже если имеется погрешность в несколько тысяч. Аналогично, не всегда критически важно количество мегапикселей в современной камере.

Сосредоточьтесь на тех моментах, которые влияют на принятие вами решения. Допустим, вы ищете холодильник с прицелом на возможные отключения света зимой и хотите быть на 100% уверенными, что там инверторный компрессор, ведь он означает небольшие пусковые токи и нормальную работу от зарядной станции средней мощности. Если ChatGPT убеждает, что инвертор имеется, но делает такое заключение по косвенным признакам (низкое энергопотребление, невысокая шумность или в духе «у этого бренда уже все модели с ними»), то обязательно идите на официальный сайт производителя и перепроверяйте. Если данных нет — свяжитесь с представителями технической поддержки, а уже потом решайте — брать или нет.