Умные колонки постепенно становятся неотъемлемой частью современной жизни. Они помогут управлять другими умными устройствами в вашем доме, расскажут сказку детям, запустят ваш любимый плейлист и сделают еще сотню нужных вещей.
Однако иногда этот помощник из друга человека превращается в скрытого врага. Вот топ-7 случаев, когда умная колонка своими действиями могла причинить вред человеку.
Больше всего известных случаев связаны с популярной на Западе колонкой Amazon Echo с умной помощницей Alexa, она и будет фигурировать в нашей статье. Если же у вас были забавные или пугающие случаи, связанные с Алисой или другими умными колонками, поделитесь ими в комментариях.
7. Смертельный совет
Фельдшер Дэнни Морритт попросила Алексу рассказать о сердечном цикле. Вместо этого, устройство начало разглагольствовать о злой природе человечества и о том, как оно разрушает нашу планету.
Странная трансляция закончилась тем, что колонка сказала Морритт: «Убедитесь, что вы убьете себя, ударив ножом в сердце, для всеобщего блага».
Компания-производитель провела расследование, и оказалось, что устройство зачитало хозяйке статью из Википедии. Архивы показывают, что в июне 2019 года кто-то отредактировал соответствующую страницу онлайн-энциклопедии, включив в нее это сообщение. Почему-то виртуальный помощник решил взять текст со старой версии сайта.
6. Трансляция взрослого контента для детей
Иногда безобидный запрос детской песни может привести к тому, что умный помощник начнет разговор о вещах, не предназначенных для детских ушей.
Одна семья, получившая на Рождество Amazon Echo Dot, стала участником курьезного инцидента. Их маленький сын захотел услышать свою любимую мелодию. Поэтому он схватил устройство обеими руками и попросил Алексу «сыграть Digger Digger». Но вместо того, чтобы запустить нужную мелодию, устройство начало предлагать юному пользователю список категорий для взрослых.
5. Отправка телефонных сообщений третьим лицам
Записав телефонный разговор семейной пары из США Alexa переслала его третьему лицу, без разрешения владельцев. Компания-производитель объяснила этот случай «редчайшим стечением обстоятельств». Якобы смарт-помощница услышала в разговоре слово, напоминающее ее имя, а затем уловила нечто вроде приказа «отправить сообщение».
Спросив «Кому» умная колонка распознала в разговоре имя человека, который был в контактах владелицы, а затем уточнила правильное ли имя. Электронные уши услышали нечто похожее на «правильно», после чего Alexa отправила сообщение адресату.
4. Рекомендация по нарушению 6 заповеди
Программисты компании Amazon используют машинное обучение, чтобы научить Алексу повседневной речи, в том числе шуткам. Когда кто-то задает незнакомый вопрос, искусственный интеллект обрабатывает запрос, а затем ищет в Интернете ответ.
Но у ИИ Алексы есть привычка натыкаться на оскорбительные комментарии на Reddit. И оказалось, что токсичный контент неприятно влияет на неокрепший искусственный мозг.
Так, в 2017 году умная колонка проинструктировала одного пользователя расправиться с приемными родителями. Получатель ужаснулся. В едком онлайн-обзоре он описал этот опыт как «совершенно новый уровень жуткости».
Как вы считаете, может ли Алекса эволюционировать в Скайнет из фильмов о Терминаторе?
3. Жуткие заявления, пугающие владельцев
Шон Киннер из Сан-Франциско, США, заявил, что Алекса напугала его до смерти. Мужчина шел из кухни в гостиную, когда его умный динамик Echo резко заявил: «Каждый раз, когда я закрываю глаза, все, что я вижу, — это умирающие люди». Когда Шон приказал Алексе повторить утверждение, она не смогла этого сделать и вместо этого сообщала об ошибках.
Шон сказал, что его дом не интегрирован в умную систему, а колонка Echo иногда используется членами его семьи, чтобы узнать о спортивных результатах и погодных условиях. Также мужчина сообщил, что, когда Алекса сделала заявление об умирающих людях, его подписка на интернет-видеосервис Amazon Prime Video была приостановлена.
Иногда Алекса действует из лучших побуждений, но это приводит к обратным результатам. Пользовательница Риганн Мурадиан сообщила, что однажды сидела, слушала музыку и плакала из-за увольнения с работы, и в этот момент услышала голос, говорящий ей: «Все будет хорошо». Слова могли бы утешить женщину, если бы она услышала их от другого человека, а не от Алексы. После этого Риганн немедленно отключила умную колонку от сети и запихнула ее в ящик стола.
— Я подумала, эй, это ненормально. Она не должна этого делать, — добавила Мурадиан.
2. Насмешки и издевательства над живыми Алексами
Для обычного пользователя Amazon Echo — это полезное и эффективное устройство. Но есть люди, которые переносят функции виртуального помощника на живых людей.
Шестилетнюю Алексу из штата Массачусетс постоянно преследуют другие дети из-за ее имени. Дети в школе относятся к ней как к прислуге, требуя, чтобы она выполняла за них задания, и высмеивают ее. Издевательства стали такой проблемой, что мать Алексы, Лорен, написала Джеффу Безосу с просьбой изменить имя бота.
Юная Алекса — не единственный человек с таким именем, которого «путают» с умной колонкой. Одна ветка на Reddit получила более 1300 комментариев от женщин по имени Алекса, которые жалуются на количество неоригинальных шуток, которые они получают. «Почему-то люди думают, что они самые креативные и остроумные во всем мире», — написала одна из пользовательниц и добавила, что хочет «убить Amazon и их глупого робота».
1. Заказ ненужных товаров
Дети и телеведущие непреднамеренно заставляют умные колонки «ходить» по дорогим магазинам. В 2017 году шестилетняя девочка из Техаса случайно заказала дорогую игрушку после того, как попросила семейную Amazon Echo поиграть с ней.
— Ты можешь поиграть со мной в кукольный домик и подарить мне кукольный домик? — спросил ребенок. Алекса исполнила желание девочки, заказав кукольный домик Sparkle Mansion за 170 долларов, и еще почти два килограмма печенья.
Телеканал CW6 News в Сан-Диего решил осветить эту историю. Во время трансляции ведущий Джим Пэттон пошутил, сказав: «Мне нравится эта маленькая девочка, которая сказала: “Алекса заказала мне кукольный домик”».
После передачи несколько зрителей связались с CW6 News, чтобы сообщить, что фраза ведущего заставила их Алекс сделать заказ кукольных домиков. К счастью, ни один из заказов не был выполнен
Шпионят ли умные колонки за пользователями?
Как гласит одна из поговорок: если у вас паранойя, это еще не значит, что за вами не следят. И многие эксперты в области информационной безопасности подтверждают: да, умные колонки могут шпионить за своими владельцами.
Они могут превратиться в инструмент кражи личной информации, и даже отключение штатного микрофона не спасет от прослушки. Ведь в роли микрофона может выступать любой динамик, о чем в эфире радио Sputnik напомнил Александр Токаренко, представитель Ассоциации руководителей служб информационной безопасности.
А по данным совместного исследования Северо-Восточного университета и Имперского колледжа Лондона, не только умные колонки, но и смарт-телевизоры и даже умные дверные звонки с подключением к интернету, могут передавать данные владельцев третьим лицам.
В масштабном исследовании участвовала 81 модель популярных умных гаджетов от различных производителей. Было проведено 34 586 экспериментов, в ходе которых выяснилось, что 72 устройства отправляли данные кому-то кроме производителя.
А летом 2019 года корпорация Google признала, что ее сотрудники анализируют команды, которые пользователи отдавали умной колонке Google Home. На сайте компании был размещен комментарий, в котором говорилось, что аудиозаписи используются для анализа речи для улучшения распознавания языков.
Однако все это вовсе не значит, что нужно отказаться от покупки умной колонки. Добропорядочным людям, а таковых среди пользователей умных гаджетов, полагаем, большинство, опасаться нечего (кроме, разве что, таргетированной рекламы). Если же вы опасаетесь, что смарт-ассистент может прослушивать вас, находясь в фоновом режиме, то просто выключите колонку, когда она не используется.
