Akıllı bir konuşmacının bir kişiye zarar verebileceği 7 durum

Akıllı hoparlörler giderek modern yaşamın ayrılmaz bir parçası haline geliyor. Evinizdeki diğer akıllı cihazları kontrol etmenize, çocuklarınıza bir hikaye anlatmanıza, favori şarkı listenizi başlatmanıza ve diğer gerekli yüzlerce şeyi yapmanıza yardımcı olacaklar.

Ancak bazen bu yardımcı, kişinin dostundan gizli bir düşmana dönüşür. Akıllı bir konuşmacının eylemleriyle bir kişiye zarar verebileceği ilk 7 durumu burada bulabilirsiniz.

En çok bilinen vakalar, Batı'daki popüler Amazon Echo konuşmacısının akıllı asistanı Alexa ile ilgili olup, yazımızda da karşımıza çıkacaktır. Alice veya diğer akıllı konuşmacılarla ilgili komik veya korkutucu deneyimleriniz varsa bunları yorumlarda paylaşın.

1. Gereksiz mal siparişi vermek

rslfllqp

Çocuklar ve TV sunucuları, farkında olmadan akıllı hoparlörlerin lüks mağazalara gitmesine neden oluyor. 2017'de altı yaşındaki Teksaslı bir kız, ailesinin Amazon Echo'sundan onunla oynamasını istedikten sonra yanlışlıkla pahalı bir oyuncak sipariş etti.

-Benimle oyuncak bebek evi oynayıp bana bir oyuncak bebek evi verebilir misin? - çocuğa sordu. Alexa, 170 dolara Sparkle Mansion oyuncak bebek evi ve neredeyse iki kilo kurabiye sipariş ederek kızın isteğini yerine getirdi.

San Diego'daki CW6 Haberleri hikayeyi ele almaya karar verdi. Yayın sırasında sunucu Jim Patton, "'Alexa bana bir oyuncak bebek evi sipariş etti' diyen o küçük kızı seviyorum" diyerek şaka yaptı.

Gösteriden sonra birkaç izleyici CW6 News ile temasa geçerek sunucunun konuşmasının Alex'in oyuncak bebek evleri sipariş etmesini istediğini bildirdi. Neyse ki emirlerin hiçbiri yerine getirilmedi

2. Yaşayan Alexas'la alay etmek ve zorbalık yapmak

Ortalama bir kullanıcı için Amazon Echo kullanışlı ve verimli bir cihazdır. Ancak sanal asistanın işlevlerini gerçek kişilere aktaran insanlar var.

Massachusetts'li altı yaşındaki Alexa, isminden dolayı sürekli diğer çocuklar tarafından taciz ediliyor. Okuldaki çocuklar ona hizmetçi muamelesi yapıyor, kendileri için görev yapmasını talep ediyor ve onunla dalga geçiyorlar. Zorbalık o kadar büyük bir sorun haline geldi ki Alexa'nın annesi Lauren Jeff Bezos'a yazarak botun adını değiştirmesini istedi.

Bu isimde akıllı bir konuşmacıyla karıştırılan tek kişi Genç Alexa değil. Reddit'teki bir konuya Alexa adındaki kadınlardan aldıkları orijinal olmayan şakaların sayısından şikayet eden 1.300'den fazla yorum geldi. Bir kullanıcı, "Bazı nedenlerden dolayı insanlar kendilerinin dünyadaki en yaratıcı ve esprili kişiler olduğunu düşünüyor" diye yazdı ve "Amazon'u ve onların aptal robotunu öldürmek" istediğini ekledi.

3. Sahipleri korkutan ürpertici ifadeler

ABD'nin San Francisco kentinden Sean Kinnear, Alexa'nın kendisini ölesiye korkuttuğunu söyledi. Bir adam mutfaktan oturma odasına doğru yürürken Echo akıllı hoparlörü aniden şunu duyurdu: "Gözlerimi her kapattığımda tek gördüğüm insanların ölmesi." Sean, Alexa'ya ifadeyi tekrarlamasını söylediğinde Alexa bunu yapamadı ve bunun yerine hataları bildirdi.

Sean, evinin akıllı sisteme entegre olmadığını ve Echo hoparlörünün bazen aile üyeleri tarafından spor skorlarını ve hava koşullarını kontrol etmek için kullanıldığını söyledi. Adam ayrıca Alexa'nın ölmekte olan insanlarla ilgili bir açıklama yapması üzerine Amazon Prime Video İnternet video hizmetine olan aboneliğinin askıya alındığını da söyledi.

Bazen Alexa en iyi niyetle hareket eder ama geri teper. Kullanıcı Rigann Muradian, bir gün oturup müzik dinlediğini ve işten kovulduğu için ağladığını, o anda kendisine "Her şey yoluna girecek" diyen bir ses duyduğunu bildirdi. Eğer bu sözleri Alexa dışında birinden duymuş olsaydı bu sözler kadın için rahatlatıcı olabilirdi. Bundan sonra Regann hemen akıllı hoparlörün fişini çekti ve masasının çekmecesine tıktı.

“Hey, bu normal değil diye düşündüm.” Bunu yapmamalı” diye ekledi Muradian.

4. 6. emrin çiğnenmesiyle ilgili öneri

Amazon programcıları, Alexa'ya şakalar da dahil olmak üzere günlük konuşmaları öğretmek için makine öğrenimini kullanıyor. Birisi alışılmadık bir soru sorduğunda, yapay zeka bu isteği işliyor ve ardından yanıt için internette arama yapıyor.

Ancak Alexa'nın yapay zekasının Reddit'teki saldırgan yorumlara rastlama alışkanlığı var. Ve toksik içeriğin kırılgan yapay beyin üzerinde hoş olmayan bir etkiye sahip olduğu ortaya çıktı.

Böylece, 2017'de akıllı bir konuşmacı, bir kullanıcıya, evlat edinen ebeveynleriyle ilgilenmesi talimatını verdi. Alıcı dehşete düşmüştü. Sert bir çevrimiçi incelemede, bu deneyimi "tamamen yeni bir ürkütücülük düzeyi" olarak tanımladı.

Alexa'nın Terminatör filmlerindeki Skynet'e dönüşebileceğini düşünüyor musunuz?

5. Üçüncü şahıslara telefon mesajı göndermek

ABD'li evli bir çiftin telefon görüşmesini kaydeden Alexa, bunu sahibinin izni olmadan üçüncü bir tarafa iletti. İmalat şirketi bu durumu "koşulların nadir rastlanan bir tesadüfü" olarak açıkladı. İddiaya göre akıllı asistan, konuşmada kendi ismine benzeyen bir kelime duydu ve ardından "mesaj gönder" emri gibi bir şey yakaladı.

Akıllı konuşmacı, "Kime" sorusunu sorarak görüşmede sahibinin iletişimindeki kişinin adını tanıdı ve ardından adın doğru olup olmadığını açıkladı. Elektronik kulaklar "bu doğru"ya benzer bir şey duydu ve ardından Alexa alıcıya bir mesaj gönderdi.

6. Çocuklara yönelik yetişkinlere yönelik içerik yayınlamak

Bazen bir çocuk şarkısı için zararsız bir istek, akıllı asistanın çocukların kulağına hitap etmeyen şeyler hakkında bir konuşma başlatmasına yol açabilir.

Noel için Amazon Echo Dot alan bir aile ilginç bir olaya karıştı. Küçük oğulları en sevdiği melodiyi duymak istiyordu. Böylece cihazı iki eliyle tuttu ve Alexa'dan "Digger Digger oynamasını" istedi. Ancak cihaz istenen melodiyi başlatmak yerine genç kullanıcıya yetişkinlere yönelik bir kategori listesi sunmaya başladı.

7. Ölümcül tavsiye

Sağlık görevlisi Danni Morritt, Alexa'dan kalp döngüsü hakkında konuşmasını istedi. Bunun yerine cihaz, insanlığın kötü doğası ve gezegenimizi nasıl yok ettiği hakkında söylenmeye başladı.

Tuhaf yayın, köşe yazısının Morritt'e şunu söylemesiyle sona erdi: "Daha büyük bir iyilik için, kendinizi kalbinizden bıçaklayarak öldürdüğünüzden emin olun.".

Üretici firma bir araştırma yaptı ve cihazın Wikipedia'dan sahibine bir makale okuduğu ortaya çıktı. Arşivler, Haziran 2019'da birisinin ilgili çevrimiçi ansiklopedi sayfasını bu mesajı içerecek şekilde düzenlediğini gösteriyor. Bazı nedenlerden dolayı sanal asistan, metni sitenin eski sürümünden almaya karar verdi.

Akıllı hoparlörler kullanıcıları gözetliyor mu?

Bir deyişin dediği gibi: Paranoyak olmanız izlenmediğiniz anlamına gelmez. Bilgi güvenliği alanındaki pek çok uzman da bunu doğruluyor: evet, akıllı konuşmacılar sahiplerini gözetleyebilir.

Kişisel bilgilerin çalınması için bir araca dönüşebilirler ve standart mikrofonu kapatmak bile sizi telefon dinlemekten kurtarmaz. Sonuçta, Bilgi Güvenliği Hizmetleri Başkanları Birliği temsilcisi Alexander Tokarenko'nun Sputnik radyosunda hatırlattığı gibi, herhangi bir konuşmacı mikrofon görevi görebilir.

Northeastern Üniversitesi ve Imperial College London'ın ortak çalışmasına göre, yalnızca akıllı hoparlörler değil, aynı zamanda akıllı TV'ler ve hatta İnternet bağlantısı olan akıllı kapı zilleri de sahip verilerini üçüncü taraflara aktarabiliyor.

Büyük ölçekli çalışma, çeşitli üreticilere ait 81 popüler akıllı cihaz modelini içeriyordu. 34.586 deney yapıldı ve 72 cihazın üretici dışında birine veri gönderdiği ortaya çıktı.

Ve 2019 yazında Google, çalışanlarının, kullanıcıların Google Home akıllı hoparlörüne verdiği komutları analiz ettiğini itiraf etti. Şirketin web sitesinde, ses kayıtlarının dil tanımayı iyileştirmek amacıyla konuşmayı analiz etmek için kullanıldığına dair bir yorum yayınlandı.

Ancak tüm bunlar akıllı hoparlör satın almaktan vazgeçmeniz gerektiği anlamına gelmiyor. Saygın kişilerin ve bunların akıllı cihaz kullanıcılarının çoğunluğu olduğuna inanıyoruz, korkacak hiçbir şeyleri yoktur (belki hedefli reklamcılık dışında). Akıllı asistanın arka planda sizi dinlemesinden korkuyorsanız, kullanılmadığı zamanlarda hoparlörü kapatmanız yeterli olacaktır.