Таня Шамрай
The Verge повідомив про яскравий приклад взаємодії з недосконалостями алгоритмів і проблемою модерації контенту для дітей.
За словами матері дитини, яка опублікувала скріншоти своєї історії активності з Алексою, вона побачила що гаджет порадив небезпечне для життя дитини завдання.
На запит «Дай мені якесь завдання» (“Tell me a challenge to do”), Алекса відповіла:
Ось щось я знайшла у мережі. Завдання просте: під'єднайте зарядний пристрій приблизно до половини вилки, а потім доторкніться монеткою до оголених зубців
OMFG My 10 year old just asked Alexa on our Echo for a challenge and this is what she said. pic.twitter.com/HgGgrLbdS8
— Kristin Livdahl (@klivdahl) December 26, 2021
Згодом Amazon прокоментував ситуацію так:
Щойно нам стало відомо про цю помилку, ми вжили швидких заходів, щоб її виправити
Amazon
За повідомленнями користувачів, команда «Дай мені якесь завдання» наразі не працює.
Amazon — не перша компанія, яка потрапляє в таку ситуацію. Раніше користувач повідомляв, що Google дав йому шкідливу пораду як впоратися з нападом.
Так, Google показує у видачі уривки зі статей, що, як вважають його алгоритми, відповідають на питання користувача. Цього разу витяг зі статті про те, як впоратися з нападом, виявився вирваним з контексту.
У оригінальній статті на сайті йшлося про те, що навпаки НЕ можна робити під час нападу (давати постраждалому їжу чи воду, тримати особу і намагатися стримати рухи тощо) — натомість Google не показав заголовок і якщо не перейти за посиланням, а читати поради прямо з видачі, складалося враження, ніби саме це навпаки треба робити.
Google давно критикують за практику використовувати контент сайтів просто у видачі, але навіть цей випадок не змінив ситуацію (хоча помилку згодом виправили).
Будь ласка, візьміть участь у опитуванні. Це допоможе розвитку нашого проєкту: