Перейти к содержимому

7 случаев, когда умная колонка могла причинить вред человеку

Умные колонки постепенно становятся неотъемлемой частью современной жизни. Они помогут управлять другими умными устройствами в вашем доме, расскажут сказку детям, запустят ваш любимый плейлист и сделают еще сотню нужных вещей.

Однако иногда этот помощник из друга человека превращается в скрытого врага. Вот топ-7 случаев, когда умная колонка своими действиями могла причинить вред человеку.

Больше всего известных случаев связаны с популярной на Западе колонкой Amazon Echo с умной помощницей Alexa, она и будет фигурировать в нашей статье. Если же у вас были забавные или пугающие случаи, связанные с Алисой или другими умными колонками, поделитесь ими в комментариях.

7. Смертельный совет

Фельдшер Дэнни Морритт попросила Алексу рассказать о сердечном цикле. Вместо этого, устройство начало разглагольствовать о злой природе человечества и о том, как оно разрушает нашу планету.

Странная трансляция закончилась тем, что колонка сказала Морритт: «Убедитесь, что вы убьете себя, ударив ножом в сердце, для всеобщего блага».

Компания-производитель провела расследование, и оказалось, что устройство зачитало хозяйке статью из Википедии. Архивы показывают, что в июне 2019 года кто-то отредактировал соответствующую страницу онлайн-энциклопедии, включив в нее это сообщение. Почему-то виртуальный помощник решил взять текст со старой версии сайта.

6. Трансляция взрослого контента для детей

Иногда безобидный запрос детской песни может привести к тому, что умный помощник начнет разговор о вещах, не предназначенных для детских ушей.

Одна семья, получившая на Рождество Amazon Echo Dot, стала участником курьезного инцидента. Их маленький сын захотел услышать свою любимую мелодию. Поэтому он схватил устройство обеими руками и попросил Алексу «сыграть Digger Digger». Но вместо того, чтобы запустить нужную мелодию, устройство начало предлагать юному пользователю список категорий для взрослых.

Читайте также:   Преимущества и недостатки онлайн-обучения детей

5. Отправка телефонных сообщений третьим лицам

Записав телефонный разговор семейной пары из США Alexa переслала его третьему лицу, без разрешения владельцев. Компания-производитель объяснила этот случай «редчайшим стечением обстоятельств». Якобы смарт-помощница услышала в разговоре слово, напоминающее ее имя, а затем уловила нечто вроде приказа «отправить сообщение».

Спросив «Кому» умная колонка распознала в разговоре имя человека, который был в контактах владелицы, а затем уточнила правильное ли имя. Электронные уши услышали нечто похожее на «правильно», после чего Alexa отправила сообщение адресату.

4. Рекомендация по нарушению 6 заповеди

Программисты компании Amazon используют машинное обучение, чтобы научить Алексу повседневной речи, в том числе шуткам. Когда кто-то задает незнакомый вопрос, искусственный интеллект обрабатывает запрос, а затем ищет в Интернете ответ.

Но у ИИ Алексы есть привычка натыкаться на оскорбительные комментарии на Reddit. И оказалось, что токсичный контент неприятно влияет на неокрепший искусственный мозг.

Так, в 2017 году умная колонка проинструктировала одного пользователя расправиться с приемными родителями. Получатель ужаснулся. В едком онлайн-обзоре он описал этот опыт как «совершенно новый уровень жуткости».

Как вы считаете, может ли Алекса эволюционировать в Скайнет из фильмов о Терминаторе?

3. Жуткие заявления, пугающие владельцев

Шон Киннер из Сан-Франциско, США, заявил, что Алекса напугала его до смерти. Мужчина шел из кухни в гостиную, когда его умный динамик Echo резко заявил: «Каждый раз, когда я закрываю глаза, все, что я вижу, — это умирающие люди». Когда Шон приказал Алексе повторить утверждение, она не смогла этого сделать и вместо этого сообщала об ошибках.

Шон сказал, что его дом не интегрирован в умную систему, а колонка Echo иногда используется членами его семьи, чтобы узнать о спортивных результатах и ​​погодных условиях. Также мужчина сообщил, что, когда Алекса сделала заявление об умирающих людях, его подписка на интернет-видеосервис Amazon Prime Video была приостановлена.

Иногда Алекса действует из лучших побуждений, но это приводит к обратным результатам. Пользовательница Риганн Мурадиан сообщила, что однажды сидела, слушала музыку и плакала из-за увольнения с работы, и в этот момент услышала голос, говорящий ей: «Все будет хорошо». Слова могли бы утешить женщину, если бы она услышала их от другого человека, а не от Алексы. После этого Риганн немедленно отключила умную колонку от сети и запихнула ее в ящик стола.

Читайте также:   Лучшие каркасные бассейны для дачи 2023-2024

— Я подумала, эй, это ненормально. Она не должна этого делать, — добавила Мурадиан.

2. Насмешки и издевательства над живыми Алексами

Для обычного пользователя Amazon Echo — это полезное и эффективное устройство. Но есть люди, которые переносят функции виртуального помощника на живых людей.

Шестилетнюю Алексу из штата Массачусетс постоянно преследуют другие дети из-за ее имени. Дети в школе относятся к ней как к прислуге, требуя, чтобы она выполняла за них задания, и высмеивают ее. Издевательства стали такой проблемой, что мать Алексы, Лорен, написала Джеффу Безосу с просьбой изменить имя бота.

Юная Алекса — не единственный человек с таким именем, которого «путают» с умной колонкой. Одна ветка на Reddit получила более 1300 комментариев от женщин по имени Алекса, которые жалуются на количество неоригинальных шуток, которые они получают. «Почему-то люди думают, что они самые креативные и остроумные во всем мире», — написала одна из пользовательниц и добавила, что хочет «убить Amazon и их глупого робота».

1. Заказ ненужных товаров

rslfllqp

Дети и телеведущие непреднамеренно заставляют умные колонки «ходить» по дорогим магазинам. В 2017 году шестилетняя девочка из Техаса случайно заказала дорогую игрушку после того, как попросила семейную Amazon Echo поиграть с ней.

— Ты можешь поиграть со мной в кукольный домик и подарить мне кукольный домик? — спросил ребенок. Алекса исполнила желание девочки, заказав кукольный домик Sparkle Mansion за 170 долларов, и еще почти два килограмма печенья.

Читайте также:   10 неожиданных инноваций, использованных во время Второй мировой войны

Телеканал CW6 News в Сан-Диего решил осветить эту историю. Во время трансляции ведущий Джим Пэттон пошутил, сказав: «Мне нравится эта маленькая девочка, которая сказала: “Алекса заказала мне кукольный домик”».

После передачи несколько зрителей связались с CW6 News, чтобы сообщить, что фраза ведущего заставила их Алекс сделать заказ кукольных домиков. К счастью, ни один из заказов не был выполнен

Шпионят ли умные колонки за пользователями?

Как гласит одна из поговорок: если у вас паранойя, это еще не значит, что за вами не следят. И многие эксперты в области информационной безопасности подтверждают: да, умные колонки могут шпионить за своими владельцами.

Они могут превратиться в инструмент кражи личной информации, и даже отключение штатного микрофона не спасет от прослушки. Ведь в роли микрофона может выступать любой динамик, о чем в эфире радио Sputnik напомнил Александр Токаренко, представитель Ассоциации руководителей служб информационной безопасности.

А по данным совместного исследования Северо-Восточного университета и Имперского колледжа Лондона, не только умные колонки, но и смарт-телевизоры и даже умные дверные звонки с подключением к интернету, могут передавать данные владельцев третьим лицам.

В масштабном исследовании участвовала 81 модель популярных умных гаджетов от различных производителей. Было проведено 34 586 экспериментов, в ходе которых выяснилось, что 72 устройства отправляли данные кому-то кроме производителя.

А летом 2019 года корпорация Google признала, что ее сотрудники анализируют команды, которые пользователи отдавали умной колонке Google Home. На сайте компании был размещен комментарий, в котором говорилось, что аудиозаписи используются для анализа речи для улучшения распознавания языков.

Однако все это вовсе не значит, что нужно отказаться от покупки умной колонки. Добропорядочным людям, а таковых среди пользователей умных гаджетов, полагаем, большинство, опасаться нечего (кроме, разве что, таргетированной рекламы). Если же вы опасаетесь, что смарт-ассистент может прослушивать вас, находясь в фоновом режиме, то просто выключите колонку, когда она не используется.

Добавить комментарий

Ваш адрес email не будет опубликован. Обязательные поля помечены *

Не пропустите актуальный список интересных статей: