Atabaevs AI
Оглавление16 / 25

Блок 12. Где ChatGPT ошибается и как не попасть в ловушку

Урок 31. Уверенный ответ может быть неверным

ChatGPT способен написать неправильный ответ тем же спокойным тоном, что и правильный.

Это не редкая поломка, а фундаментальная причина, по которой проверка остаётся частью работы.

Особенно внимательно относись к:

  • точным цифрам;
  • цитатам;
  • ссылкам;
  • законам;
  • медицинской информации;
  • финансовым условиям;
  • техническим характеристикам;
  • названиям функций, которые быстро обновляются;
  • сведениям «на сегодняшний день».

Шесть команд, которые повышают проверяемость

1.

Для каждого важного факта укажи источник.

2.

Отдели подтверждённые факты от предположений.

3.

Если источник не найден, напиши «не подтверждено», не заполняй пробел догадкой.

4.

Проверь дату публикации и дату самого события — не путай их.

5.

Покажи расчёт для всех важных чисел.

6.

Найди источник, который может опровергать основной вывод.

Проверка важнее красноречия

Самый опасный ответ не тот, где ChatGPT пишет «не знаю».

Самый опасный — красивый, логичный и ошибочный ответ, который ты не проверил.

Урок 32. Не путай факт, вывод и предположение

Учи ChatGPT маркировать тип утверждения.

Например:

Факт: в файле продажи категории X снизились на 12% относительно прошлого месяца.

Расчёт: (880 − 1000) / 1000 × 100 = −12%.

Вывод: категория внесла вклад в общее снижение оборота.

Предположение: причиной мог быть дефицит товара.

Чтобы подтвердить последнее, нужны остатки, поставки или другая информация.

Запрос

В ответе помечай ключевые тезисы как «факт из данных», «расчёт», «вывод» или «гипотеза». Не позволяй гипотезе звучать как установленная причина.

Особенно полезно в аналитике и бизнес-решениях.

Урок 33. Не отправляй всё подряд

ChatGPT удобен, поэтому легко забыть, что ты передаёшь данные внешнему сервису.

Перед загрузкой задай себе вопросы:

  • есть ли персональные данные клиентов;
  • есть ли медицинская информация;
  • есть ли банковские реквизиты;
  • есть ли пароли или ключи доступа;
  • есть ли коммерческая тайна;
  • действительно ли системе нужен полный документ;
  • можно ли обезличить данные;
  • какие правила действуют в твоей компании и стране.

Обезличивание

Вместо:

Иван Иванов, телефон +7…, паспорт…, долг 180 000 ₽

для многих аналитических задач достаточно:

Клиент A, долг 180 000 ₽.

Не давай модели больше данных, чем требуется для решения.

Урок 34. Здоровье, право и деньги: ChatGPT — второй слой, а не приговор

В высокорисковых темах ChatGPT особенно полезен для:

  • объяснения терминов;
  • подготовки вопросов врачу или юристу;
  • структурирования документов;
  • поиска официальных рекомендаций;
  • сравнения вариантов, которые уже предложил специалист;
  • проверки, что ты не забыл важный вопрос.

Но опасно использовать его как единственного, кто принимает решение.

Правильная постановка

Помоги подготовиться к приёму врача. Не ставь диагноз. На основе описания составь хронологию симптомов, список лекарств, тревожные признаки, при которых требуется срочная помощь, и вопросы врачу. Для медицинских утверждений используй официальные или клинические источники.

Аналогично в праве:

Объясни документ и помоги подготовить вопросы юристу. Не выдавай предварительный разбор за окончательную правовую позицию.

Урок 35. Не используй ИИ, чтобы снять с себя ответственность

ИИ может предложить решение. Подписывать договор, увольнять сотрудника, назначать лечение, инвестировать деньги, отправлять клиенту юридическое обещание или публиковать обвинение будет человек.

Хорошая формула:

ИИ ускоряет подготовку решения. Ответственность за решение остаётся у человека.

Это не ограничение, которое мешает пользоваться ИИ. Это условие зрелого использования.