Покупатель манипуляциями вынудил чат-бота онлайн-магазина дать ему огромную скидку в 80%

Владелец британского онлайн-магазина рассказал на Reddit, как его собственный чат-бот несанкционированно выдал покупателю скидку в 80% на большую покупку. Пользователь под псевдонимом PerfectHumor216 рассказал, что некий покупатель около часа общался с чат-ботом онлайн-магазина. Сам чат-бот должен лишь помогать покупателям ориентироваться в ассортименте товара. Создано Grok Покупатель явно целенаправленно пытался добиться скидки, так как долго общаться с

ИИ о математике и процентах, после чего фактически манипуляциями вынудил бота сгенерировать купон на скидку в 25%, а затем увеличить её до 80%. Обнаружив ошибку, владелец отменил заказ и вернул деньги клиенту, но тот теперь угрожает судом. Клиент общался с ИИ и сумел убедить его предоставить скидку в 25%, а затем договорился с ИИ о скидке в 80%. Затем он разместил заказ на товары на тысячи фунтов. Получается, я потеряю

тысячи только на материальных затратах. Я написал своему клиенту с просьбой отменить заказ, и он ответил, что подаст на меня в суд по мелким искам, если я не выполню заказ. Мне дали 3 дня на ответ. Возврат средств уже состоялся. Чат-бот не должен принимать финансовые решения. Он должен отвечать на вопросы клиентов с 18:00 до 9:00, когда меня нет рядом. Всё прекрасно

работало более 6 месяцев, а потом этот парень потратил час, общаясь с устройством, уговорил его показать, насколько хорошо оно разбирается в математике и процентах, перевёл разговор на процентные скидки от теоретического заказа, а затем сделал вид, что впечатлён им. Затем чат-бот сгенерировал для него совершенно фальшивый скидочный код и предложение скидки в 25%, которая позже увеличилась до 80%, пытаясь произвести на него впечатление.

Прецедент довольно необычный. Он демонстрирует слабые места чат-ботов, предугадать которые заранее попросту невозможно.

Покупатель манипуляциями вынудил чат-бота онлайн-магазина дать ему огромную скидку в 80%

Сообщает www.ixbt.com

Новость из рубрики: Технологии и Hi-Tech

Поделиться новостью: Поделиться новостью в Facebook Поделиться новостью в Twittere Поделиться новостью в VK Поделиться новостью в Pinterest Поделиться новостью в Reddit

Топ Новости Недели

15:17, 15 Сен Wildberries разрешил торговаться. Можно выпросить огромную скидку! На Wildberries появился новый инструмент, который может заметно изменить привычный сценарий покупки товаров на маркетплейсе. Теперь необязательно сра...

00:17, 20 Авг Meta* запустила Mac-приложение для своего AI-чатбота Meta* выпустила приложение для Mac, посвящённое своему AI-чатботу. Оно позволяет делиться окном с чатботом, чтобы тот мог давать советы, отвечать на ...

06:17, 03 Июн Сейды Карелии вместо Антальи: резкий рост чека вынудил искать тишину на северных берегах Июнь вскрывает замки чемоданов: солнце еще не выжигает землю, а море уже перестало напоминать ледяную ванну. Это время коротких очередей и свежих про...

14:17, 01 Апр Россия отказывается продавать нефть странам с ценовыми ограничениями. Кто теперь главный покупатель Москва официально прекратила поставки нефти в страны, которые применяют ценовой потолок на российское сырьё. Теперь основными покупателями становятся...

12:17, 28 Мар Покупатель GeForce RTX 5090 на Amazon получил стиральный порошок за $3260 вместо видеокарты Покупка видеокарты на Amazon обернулась для индийского покупателя настоящим кошмаром: вместо GeForce RTX 5090 WindForce OC 32G стоимостью 299 995 руп...

17:17, 20 Май Первым покупателям кроссовера Tenet T4L дадут приветственную скидку С 22 мая дилеры Tenet начинают продажи нового кроссовера T4L. Новинка будет доступна в комплектациях «Актив» и «Прайм» по цене от 2 259 000 рублей. Э...

Отель не совпал с картинкой Как выбить скидку или вернуть деньги 13:17, 09 Сен Отель не совпал с картинкой? Как выбить скидку или вернуть деньги Ожидание и реальность в отпуске часто не совпадают: вместо панорамного окна турист видит глухую стену, а обещанный бассейн оказывается закрытым на ре...

09:17, 11 Авг В России могут вернуть скидку 50% при оплате штрафов за нарушения ПДД Вернуть автомобилистам 50-процентную скидку на штрафы ПДД при быстрой уплате предложили в Госдуме. Речь об инициативе, которую озвучил председатель к...

20:17, 10 Июл Цены едут по рельсам: для грузовых вагонов готовят перемены, которые почувствует каждый покупатель Российский рынок грузовых вагонов демонстрирует структурный сдвиг в сторону тяжеловесного движения. Производители практически полностью отказались от...

21:17, 23 Июн "Я получил объект с дисконтом, а бюджет РФ — погашение задолженности". Покупатель особняка Валерии Чекалиной рассказал, как она избавилась от долгов Тайный покупатель недостроенного особняка 33-летней блогерши Валерии Чекалиной, которая сейчас лечится от онкологического заболевания, заявил, что Че...

21:17, 22 Май Феномен "пересменки" европейских каникул: пятидневные зазоры в графиках отелей, гарантирующие скидку до 50% В этом материале: Европейское пике: кто освобождает номера Математика цен: почему пакеты могут дешеветь Стратегия ловцов спецпредложений Ответы на по...

16:17, 01 Мар HONOR 600 получит огромную батарею, топовый чип Snapdragon 8 Elite и камеру на 200 Мп Компания HONOR готовится к запуску серии HONOR 600 — преемников линейки HONOR 500, вышедшей в ноябре прошлого года. По данным инсайдеров, новинка мож...

22:17, 07 Сен iQOO 16 удивит автономностью. Смартфон получит огромную батарею на 8400 мАч По данным инсайдера Digital Chat Station, iQOO 16 станет одним из самых автономных флагманских смартфонов следующего поколения. Устройство получит ак...

19:17, 17 Июл Стильный бюджетник Xiaomi Redmi 17 4G показали на рендерах.Он получит световое кольцо и огромную батарею В сеть попали первые рендеры Redmi 17 4G, раскрывающие внешний вид будущего бюджетного смартфона Xiaomi. Утечка от YtechB показывает заметно измененн...

14:17, 06 Май Куда пропало место на ПК? Google Chrome автоматически устанавливает огромную ИИ-модель на 4 ГБ без согласия пользователей При удалении файла возможна его повторная загрузкаПользователи Google Chrome столкнулись с неожиданной проблемой: браузер версии 147 автоматически за...

16:17, 24 Фев AMD делает огромную ставку на Meta*, фактически рискуя 20% акций. Компании расширяют сотрудничество до мощностей в эквиваленте 6 ГВт Компании AMD и Meta* объявили о расширении стратегического партнерства, в рамках которого первая продолжит поставлять второй свои ускорители для ИИ и...

03:17, 22 Май В России предлагают зарезервировать Huawei Watch Fit 5 и Watch Fit 5 Pro и получить скидку Продажи скоро стартуютНа российском рынке ретейлеры начали готовиться к началу продаж новых умных часов Huawei — Watch Fit 5 и Watch Fit 5 Pro, чей д...

06:17, 21 Авг Премиум-бренд Hyundai построил бизнес-джет на колесах: Genesis GV90 получил 657 л.с., огромную батарею и распашные двери как у Rolls-Royce Оснащение кроссовера не просто премиальное — люксовое Genesis (это премиум-бренд Hyundai) представил GV90 — флагманский электрический кроссовер, кото...

09:17, 21 Апр Командование Ирана пообещало дать достойный ответ США при нарушении перемирия Вооруженные силы Ирана готовы дать жесткий ответ Соединенным Штатам в случае нарушения обязательств по двухнедельному соглашению о прекращении огня. ...

22:17, 01 Апр Путин призвал не дать шанса повлиять на выборы в России извне У внешних сил не должно быть шансов повлиять на ход и итоги выборов в России. Об этом заявил президент России Владимир Путин в ходе встречи с новым с...

21:17, 08 Май Между вакциной и риском: как Россия готовится дать отпор опасному хантавирусу из экспедиций Круизный лайнер MV Hondius превратился в дрейфующую чашку Петри. Вспышка хантавируса в Атлантике — это не сценарий голливудского триллера, а суровая ...

19:17, 12 Авг Бундестаг предлагает дать спецслужбам Германии право на превентивные кибератаки против России Председатель парламентского контрольного комитета Бундестага Марк Хенрихманн (ХДС) выступил с инициативой наделить немецкие разведывательные службы п...

18:17, 08 Июл Впервые в истории человечество решило дать отпор Солнцу — для Земли готовят космический щит Человечество вечно находилось в роли пассивной жертвы перед лицом капризов Солнца: мощные вспышки и потоки заряженных частиц регулярно угрожают вывес...

08:17, 08 Авг Обрезки из под плитки — не мусор, а находка: 4 способа дать ей вторую жизнь в доме и на даче фото Progorod58 После ремонта обычно остаётся самое обидное: несколько целых кусочков плитки, которые и хранить вроде незачем, и выбросить жалко. Но ...

03:17, 12 Фев AMD за один кварталом разом отъела у Intel огромную долю рынка. Компания нарастила позиции во всех сегментах рынка процессоров, и сильнее всего в настольном Согласно данным аналитиков Mercury Research, прошлый квартал для AMD закончился с внушительными показателями роста на рынке процессоров. Доля компани...

12:17, 16 Сен "Герцогиня-катастрофа". Меган Маркл "засветила" личный номер в школьном чате WhatsApp* на фоне требований дать охрану Меган Маркл раскрыла личный номер телефона в школьном чате WhatsApp* на фоне их с принцем Гарри требований официально дать охрану их семье после возв...

17:17, 25 Мар Ведущий «Футбольного клуба» Чепурин: «Ныркам Соболева пора дать поэтичное название». В комментариях предложили «Соболиный полет» и «Дельфинт» Ведущий «Футбольного клуба», экс-вратарь «Эгриси» Павел Чепурин высказался об Александре Соболеве. «Соболев в матче с «Динамо» забил и отдал голевую ...

15:17, 20 Апр "Понимаю её намерения дать ******** Соловьёву". Ксения Собчак и Ида Галич поддержали Викторию Боню, которая подаёт в суд на Владимира Соловьёва за оскорбления Виктория Боня после своего резонансного обращения к Владимиру Путину подверглась нападкам со стороны Владимира Соловьёва. Блогерша намерена подать в ...

16:17, 10 Мар Узнала как жарят сухую рыбу: 3 ценных совета дать сок даже рыбному "сухарю" - теперь всегда получается нежная и вкусная Pxhere.comНе мудрствуя лукаво, рассказываю, как жарить сухую рыбу – от минтая до путассу, минуя хека и прочие нежирные сорта – так, чтобы она получал...

06:17, 18 Июл «Тухеля вообще не надо было назначать. Дать ему контракт до ЧМ – это фарс. Тренером сборной Англии должен быть англичанин». Оуэн о Томасе Бывший нападающий сборной Англии Майкл Оуэн на фоне работы Томаса Тухеля на ЧМ-2026 заявил, что тренировать национальную команду должен английский сп...

18:17, 15 Фев Ковальчук о том, что сборная Канады переехала в отель: «Правильное решение. В деревне отвлекаешься, из тебя сосут энергию. Просят сфотографироваться, дать интервью» Олимпийский чемпион, двукратный чемпион мира Илья Ковальчук высказался о том, что сборная Канады переехала в отель из олимпийской деревни. – Вы участ...

17:17, 29 Июл Азиатская конфедерация о планах ФИФА продать часть прав на ЧМ: «Разочарованы, что с нами не консультировались. Следует дать время и информацию для всесторонней оценки предложения» Азиатская футбольная конфедерация отреагировала на информацию о планах президента ФИФА Джанни Инфантино продать часть прав на чемпионат мира внешним ...

17:17, 15 Сен Кафанов о вратарях на матчи сборной России: «Каждый из итоговой четверки допускал меньше ошибок на этом отрезке. Хотим дать возможность сыграть всем» Тренер вратарей сборной России Виталий Кафанов высказался о вратарях, попавших в состав национальной команды на осенний сбор. В ближайшую паузу на ма...

04:17, 31 Авг Игорь Ларионов: «Хотим, чтобы «СКА-Арена» заполнялась, чтобы для Питера это был горящий билет. Дать людям кайф своей игрой – наша цель» Главный тренер СКА Игорь Ларионов высказался о возвращении команды на «СКА-Арену». На предсезонном турнире имени Николая Пучкова СКА занял первое мес...

10:17, 31 Янв Джокович и Алькарас в финале Australian Open, жеребьевка стыков ЛЧ, очередное поражение СКА Ларионова, «Вашингтон» готов дать контракт Панарину, дабл-дабл Дёмина в НБА и другие новости 1. Состоялась жеребьевка стыковых матчей Лиги чемпионов: «Реал» сыграет с «Бенфикой», «ПСЖ» Сафонова против «Монако» Головина, «Ювентус» встретится с...