7 kasus ketika pembicara pintar dapat membahayakan seseorang

Speaker pintar secara bertahap menjadi bagian integral dari kehidupan modern. Mereka akan membantu mengontrol perangkat pintar lain di rumah Anda, menceritakan sebuah kisah kepada anak-anak Anda, memulai daftar putar favorit Anda, dan melakukan ratusan hal penting lainnya.

Namun, terkadang asisten ini berubah dari teman seseorang menjadi musuh tersembunyi. Berikut adalah 7 kasus teratas ketika seorang pembicara pintar dapat membahayakan seseorang melalui tindakannya.

Kasus paling terkenal terkait dengan speaker Amazon Echo yang populer di Barat dengan asisten pintar Alexa, dan itu akan muncul di artikel kami. Jika Anda pernah memiliki pengalaman lucu atau menakutkan terkait Alice atau smart speaker lainnya, bagikan di kolom komentar.

1. Memesan barang yang tidak diperlukan

rslfllqp

Anak-anak dan pembawa acara TV secara tidak sengaja menjual speaker pintar ke toko-toko kelas atas. Pada tahun 2017, seorang gadis Texas berusia enam tahun secara tidak sengaja memesan mainan mahal setelah meminta Amazon Echo milik keluarganya untuk memainkannya.

-Bisakah kamu bermain rumah boneka denganku dan memberiku rumah boneka? - tanya anak itu. Alexa mengabulkan keinginan gadis itu dengan memesan rumah boneka Sparkle Mansion seharga $170, dan hampir dua kilogram kue.

CW6 News di San Diego memutuskan untuk meliput berita tersebut. Selama siaran, pembawa acara Jim Patton bercanda, mengatakan, "Saya suka gadis kecil yang berkata, 'Alexa memesankan saya rumah boneka.'"

Setelah pertunjukan, beberapa pemirsa menghubungi CW6 News untuk melaporkan bahwa saluran pembawa acara membuat mereka ingin Alex memesan rumah boneka. Untungnya, tidak ada satu pun pesanan yang dipenuhi

2. Ejekan dan intimidasi terhadap Alexa yang masih hidup

Bagi rata-rata pengguna, Amazon Echo adalah perangkat yang berguna dan efisien. Namun ada orang yang mengalihkan fungsi asisten virtual ke orang sungguhan.

Alexa yang berusia enam tahun dari Massachusetts terus-menerus dilecehkan oleh anak-anak lain karena namanya. Anak-anak di sekolah memperlakukannya seperti seorang pembantu, menuntut dia melakukan tugas untuk mereka dan mengolok-oloknya. Penindasan menjadi masalah sehingga ibu Alexa, Lauren, menulis surat kepada Jeff Bezos memintanya untuk mengubah nama bot tersebut.

Alexa muda bukan satu-satunya orang dengan nama itu yang bingung dengan pembicara yang pintar. Satu thread di Reddit menerima lebih dari 1.300 komentar dari wanita bernama Alexa yang mengeluhkan banyaknya lelucon tidak orisinal yang mereka terima. “Untuk beberapa alasan, orang mengira merekalah yang paling kreatif dan jenaka di seluruh dunia,” tulis seorang pengguna, seraya menambahkan bahwa dia ingin “membunuh Amazon dan robot bodoh mereka.”

3. Pernyataan menyeramkan yang membuat takut pemiliknya

Sean Kinnear dari San Francisco, AS, mengatakan bahwa Alexa membuatnya takut setengah mati. Seorang pria sedang berjalan dari dapur menuju ruang tamu ketika speaker pintar Echo-nya tiba-tiba mengumumkan, “Setiap kali saya menutup mata, yang saya lihat hanyalah orang-orang sekarat.” Ketika Sean memerintahkan Alexa untuk mengulangi pernyataan tersebut, dia tidak dapat melakukannya dan malah melaporkan kesalahan.

Sean mengatakan rumahnya tidak terintegrasi dengan sistem pintar, dan speaker Echo terkadang digunakan oleh anggota keluarga untuk memeriksa skor olahraga dan kondisi cuaca. Pria itu juga mengatakan bahwa ketika Alexa membuat pernyataan tentang orang-orang yang sekarat, langganannya ke layanan video Internet Amazon Prime Video ditangguhkan.

Terkadang Alexa bertindak dengan niat terbaik, tapi itu menjadi bumerang. Pengguna Rigann Muradian melaporkan bahwa suatu hari dia sedang duduk, mendengarkan musik dan menangis karena dipecat dari pekerjaannya, dan pada saat itu dia mendengar suara mengatakan kepadanya: “Semuanya akan baik-baik saja.” Kata-kata itu mungkin bisa menghibur wanita itu jika dia mendengarnya dari orang lain selain Alexa. Setelah itu, Regann segera mencabut smart speaker tersebut dan memasukkannya ke dalam laci mejanya.

“Saya pikir, hei, ini tidak normal.” Dia seharusnya tidak melakukan ini,” tambah Muradian.

4. Anjuran untuk melanggar perintah ke-6

Pemrogram Amazon menggunakan pembelajaran mesin untuk mengajarkan percakapan sehari-hari kepada Alexa, termasuk lelucon. Ketika seseorang mengajukan pertanyaan asing, kecerdasan buatan memproses permintaan tersebut dan kemudian mencari jawabannya di Internet.

Namun AI Alexa memiliki kebiasaan menemukan komentar ofensif di Reddit. Dan ternyata kandungan racunnya memberikan efek tidak menyenangkan pada otak buatan yang rapuh tersebut.

Jadi, pada tahun 2017, seorang pembicara pintar menginstruksikan salah satu pengguna untuk berurusan dengan orang tua angkatnya. Penerima merasa ngeri. Dalam ulasan online yang pedas, dia menggambarkan pengalaman itu sebagai “tingkat kengerian yang benar-benar baru.”

Apakah menurut Anda Alexa bisa berevolusi menjadi Skynet dari film Terminator?

5. Mengirim pesan telepon kepada pihak ketiga

Setelah merekam percakapan telepon pasangan suami istri asal Amerika, Alexa meneruskannya ke pihak ketiga, tanpa izin pemiliknya. Perusahaan manufaktur menjelaskan kasus ini sebagai “suatu kebetulan yang jarang terjadi.” Diduga, asisten pintar tersebut mendengar sebuah kata dalam percakapan yang mirip dengan namanya, lalu menangkap sesuatu seperti perintah untuk “mengirim pesan”.

Dengan menanyakan “Kepada”, pembicara pintar mengenali dalam percakapan nama orang yang ada di kontak pemilik, dan kemudian mengklarifikasi apakah nama tersebut benar. Telinga elektronik mendengar sesuatu yang mirip dengan “itu benar”, setelah itu Alexa mengirimkan pesan ke penerima.

6. Menyiarkan konten dewasa untuk anak-anak

Terkadang permintaan lagu anak-anak yang tidak berbahaya dapat menyebabkan asisten cerdas memulai percakapan tentang hal-hal yang tidak ditujukan untuk telinga anak-anak.

Sebuah keluarga yang menerima Amazon Echo Dot untuk Natal terlibat dalam insiden yang aneh. Putra kecil mereka ingin mendengarkan lagu favoritnya. Jadi dia meraih perangkat itu dengan kedua tangannya dan meminta Alexa untuk "memainkan Digger Digger". Namun alih-alih memulai melodi yang diinginkan, perangkat tersebut malah menawarkan kepada pengguna muda daftar kategori untuk orang dewasa.

7. Nasihat yang mematikan

Paramedis Danni Morritt meminta Alexa berbicara tentang siklus jantung. Sebaliknya, perangkat tersebut mulai mengoceh tentang sifat jahat umat manusia dan bagaimana hal itu menghancurkan planet kita.

Siaran aneh itu diakhiri dengan kolom yang memberi tahu Morritt: "Pastikan kamu bunuh diri dengan menusuk jantungmu sendiri, demi kebaikan yang lebih besar.".

Perusahaan manufaktur melakukan penyelidikan, dan ternyata perangkat tersebut membacakan artikel dari Wikipedia kepada pemiliknya. Arsip menunjukkan bahwa pada bulan Juni 2019, seseorang mengedit halaman ensiklopedia online yang relevan untuk menyertakan pesan ini. Untuk beberapa alasan, asisten virtual memutuskan untuk mengambil teks dari situs versi lama.

Apakah speaker pintar memata-matai pengguna?

Seperti kata pepatah: hanya karena Anda paranoid bukan berarti Anda tidak diikuti. Dan banyak pakar di bidang keamanan informasi mengonfirmasi: ya, speaker pintar dapat memata-matai pemiliknya.

Mereka dapat berubah menjadi alat untuk mencuri informasi pribadi, dan bahkan mematikan mikrofon standar tidak akan menyelamatkan Anda dari penyadapan. Bagaimanapun, pembicara mana pun dapat bertindak sebagai mikrofon, seperti yang diingat Alexander Tokarenko, perwakilan dari Asosiasi Kepala Layanan Keamanan Informasi di radio Sputnik.

Dan menurut studi bersama yang dilakukan oleh Northeastern University dan Imperial College London, tidak hanya smart speaker, tetapi juga smart TV dan bahkan bel pintu pintar dengan koneksi Internet dapat mentransfer data pemilik ke pihak ketiga.

Studi skala besar tersebut melibatkan 81 model gadget pintar populer dari berbagai produsen. 34.586 percobaan dilakukan, di mana ternyata 72 perangkat mengirimkan data ke orang lain selain pabrikan.

Dan pada musim panas 2019, Google mengakui bahwa karyawannya sedang menganalisis perintah yang diberikan pengguna kepada smart speaker Google Home. Sebuah komentar diposting di situs web perusahaan yang mengatakan rekaman audio digunakan untuk menganalisis ucapan guna meningkatkan pengenalan bahasa.

Namun, semua ini tidak berarti Anda harus berhenti membeli speaker pintar. Orang-orang terhormat, dan kami yakin mereka adalah mayoritas pengguna gadget pintar, tidak perlu takut (kecuali, mungkin, iklan bertarget). Jika Anda takut asisten pintar mendengarkan Anda saat berada di latar belakang, matikan saja speaker saat tidak digunakan.