Покупатель манипуляциями вынудил чат-бота онлайн-магазина дать ему огромную скидку в 80%

Владелец британского онлайн-магазина рассказал на Reddit, как его собственный чат-бот несанкционированно выдал покупателю скидку в 80% на большую покупку. Пользователь под псевдонимом PerfectHumor216 рассказал, что некий покупатель около часа общался с чат-ботом онлайн-магазина. Сам чат-бот должен лишь помогать покупателям ориентироваться в ассортименте товара. Создано Grok Покупатель явно целенаправленно пытался добиться скидки, так как долго общаться с

ИИ о математике и процентах, после чего фактически манипуляциями вынудил бота сгенерировать купон на скидку в 25%, а затем увеличить её до 80%. Обнаружив ошибку, владелец отменил заказ и вернул деньги клиенту, но тот теперь угрожает судом. Клиент общался с ИИ и сумел убедить его предоставить скидку в 25%, а затем договорился с ИИ о скидке в 80%. Затем он разместил заказ на товары на тысячи фунтов. Получается, я потеряю

тысячи только на материальных затратах. Я написал своему клиенту с просьбой отменить заказ, и он ответил, что подаст на меня в суд по мелким искам, если я не выполню заказ. Мне дали 3 дня на ответ. Возврат средств уже состоялся. Чат-бот не должен принимать финансовые решения. Он должен отвечать на вопросы клиентов с 18:00 до 9:00, когда меня нет рядом. Всё прекрасно

работало более 6 месяцев, а потом этот парень потратил час, общаясь с устройством, уговорил его показать, насколько хорошо оно разбирается в математике и процентах, перевёл разговор на процентные скидки от теоретического заказа, а затем сделал вид, что впечатлён им. Затем чат-бот сгенерировал для него совершенно фальшивый скидочный код и предложение скидки в 25%, которая позже увеличилась до 80%, пытаясь произвести на него впечатление.

Прецедент довольно необычный. Он демонстрирует слабые места чат-ботов, предугадать которые заранее попросту невозможно.

Покупатель манипуляциями вынудил чат-бота онлайн-магазина дать ему огромную скидку в 80%

Сообщает www.ixbt.com

Новость из рубрики: Технологии и Hi-Tech

Поделиться новостью: Поделиться новостью в Facebook Поделиться новостью в Twittere Поделиться новостью в VK Поделиться новостью в Pinterest Поделиться новостью в Reddit

Топ Новости Недели

16:17, 01 Мар HONOR 600 получит огромную батарею, топовый чип Snapdragon 8 Elite и камеру на 200 Мп Компания HONOR готовится к запуску серии HONOR 600 — преемников линейки HONOR 500, вышедшей в ноябре прошлого года. По данным инсайдеров, новинка мож...

18:17, 15 Фев Ковальчук о том, что сборная Канады переехала в отель: «Правильное решение. В деревне отвлекаешься, из тебя сосут энергию. Просят сфотографироваться, дать интервью» Олимпийский чемпион, двукратный чемпион мира Илья Ковальчук высказался о том, что сборная Канады переехала в отель из олимпийской деревни. – Вы участ...

16:17, 24 Фев AMD делает огромную ставку на Meta*, фактически рискуя 20% акций. Компании расширяют сотрудничество до мощностей в эквиваленте 6 ГВт Компании AMD и Meta* объявили о расширении стратегического партнерства, в рамках которого первая продолжит поставлять второй свои ускорители для ИИ и...

10:17, 31 Янв Джокович и Алькарас в финале Australian Open, жеребьевка стыков ЛЧ, очередное поражение СКА Ларионова, «Вашингтон» готов дать контракт Панарину, дабл-дабл Дёмина в НБА и другие новости 1. Состоялась жеребьевка стыковых матчей Лиги чемпионов: «Реал» сыграет с «Бенфикой», «ПСЖ» Сафонова против «Монако» Головина, «Ювентус» встретится с...

03:17, 12 Фев AMD за один кварталом разом отъела у Intel огромную долю рынка. Компания нарастила позиции во всех сегментах рынка процессоров, и сильнее всего в настольном Согласно данным аналитиков Mercury Research, прошлый квартал для AMD закончился с внушительными показателями роста на рынке процессоров. Доля компани...