- Microsoft рассказала, с помощью чего... (547)
- RuStore станет обязательным для... (219)
- Дженсен Хуанг тайно обсуждает с союзниками... (421)
- «Выглядит потрясающе»: моддер прокачал Dark... (361)
- Завтра — глобальный анонс флагманов Xiaomi... (387)
- POCO X8 Pro Max, POCO X8 и POCO X8s —... (1141)
- Японский зонд летит за грунтом астероида, но... (515)
- Открытый ИИ потерял главного союзника: уход... (626)
- «Формула-1» заключила партнёрство с игрой... (550)
- Акционеры подали в суд на Intel за сокрытие... (643)
- Конкурент Starlink потерял 40 спутников... (1707)
- Амбициозная стратегия от... (840)
- Никаких убийств, драк с полицией и угонов... (932)
- РТК-ЦОД выполнил миграцию ИТ-систем «Комуса»... (1839)
- Новая статья: Обзор SSD-накопителя Samsung... (1410)
- Apple готовит конкурента M**a Ray-Ban: очки... (1778)
Покупатель манипуляциями вынудил чат-бота онлайн-магазина дать ему огромную скидку в 80%
Дата: 2026-02-09 14:00
Владелец британского онлайн-магазина рассказал на Reddit, как его собственный чат-бот несанкционированно выдал покупателю скидку в 80% на большую покупку.
Пользователь под псевдонимом PerfectHumor216 рассказал, что некий покупатель около часа общался с чат-ботом онлайн-магазина. Сам чат-бот должен лишь помогать покупателям ориентироваться в ассортименте товара.
Создано Grok Покупатель явно целенаправленно пытался добиться скидки, так как долго общаться с ИИ о математике и процентах, после чего фактически манипуляциями вынудил бота сгенерировать купон на скидку в 25%, а затем увеличить её до 80%.
Обнаружив ошибку, владелец отменил заказ и вернул деньги клиенту, но тот теперь угрожает судом.
Клиент общался с ИИ и сумел убедить его предоставить скидку в 25%, а затем договорился с ИИ о скидке в 80%.
Затем он разместил заказ на товары на тысячи фунтов. Получается, я потеряю тысячи только на материальных затратах.
Я написал своему клиенту с просьбой отменить заказ, и он ответил, что подаст на меня в суд по мелким искам, если я не выполню заказ. Мне дали 3 дня на ответ.
Возврат средств уже состоялся.
Чат-бот не должен принимать финансовые решения. Он должен отвечать на вопросы клиентов с 18:00 до 9:00, когда меня нет рядом.
Всё прекрасно работало более 6 месяцев, а потом этот парень потратил час, общаясь с устройством, уговорил его показать, насколько хорошо оно разбирается в математике и процентах, перевёл разговор на процентные скидки от теоретического заказа, а затем сделал вид, что впечатлён им.
Затем чат-бот сгенерировал для него совершенно фальшивый скидочный код и предложение скидки в 25%, которая позже увеличилась до 80%, пытаясь произвести на него впечатление.
Прецедент довольно необычный. Он демонстрирует слабые места чат-ботов, предугадать которые заранее попросту невозможно.
Подробнее на iXBT
Предыдущие новости
«Кладбище» Microsoft пополнилось: приложение Microsoft Lens удалят из App Store и Google Play сегодня
Компания Microsoft удалит сегодня из официальных магазинов App Store и Google Play своё мобильное приложение Microsoft Lens для iOS и Android. Работа уже установленного приложения на устройствах пока сохранится — пользователи смогут сканировать документы в приложении до 9 марта 2026 года. Сгенерировано нейросетью Grok После этой даты можно будет посмотреть лишь сохранённые...
Рассекречены все чипсеты для процессоров Intel Nova Lake. Поддержки Thunderbolt 5 не будет
Только сегодня мы говорили о чипсетах Z990 и Z970 для новых процессоров Intel Nova Lake, и вот теперь характеристики всех наборов логики этой линейки попали в Сеть. Всего в линейке будет как минимум пять чипсетов: W980 и Q970 для рабочих станций, а также B960, Z970 и Z990 для потребительских ПК. Напомним, B960 и Z970 технически будут идентичными, то есть это будет один и тот...
Google ограничивает бесплатный доступ к текстам песен в YouTube Music
Компания Google начала ограничивать доступ к текстам песен для пользователей YouTube Music, которые не оформляют платную подписку. Ранее эта функция была доступна бесплатно, но теперь после пяти просмотров текстов песен пользователи увидят лишь несколько строк, а остальная часть будет скрыта. Для полного доступа к текстам Google требует оформить подписку Premium. ...
«ГАЗель» — в королевстве. Сборку «ГАЗели» могут запустить в Саудовской Аравии — сертификация уже пройдена
Группа ГАЗ сертифицировала свои легкие коммерческие автомобили (самые известные представители линейки — «ГАЗель» и «Соболь») для рынка Саудовской Аравии. Об этом сообщил глава Минпромторга РФ Антон Алиханов. Получение официальных документов подтверждает соответствие российской техники местным стандартам и открывает возможность для начала официальных продаж. Изображение...