AI hodisalari ma'lumotlar bazasidan eng bezovta qiluvchi yozuvlar

2020-yil oxirida ishga tushirilgan AI Incident Database (AIID) "xavfsizlik, adolat yoki boshqa haqiqiy muammolarni" keltirib chiqaradigan "aqlli tizimlar" haqidagi xabarlarni to'playdi. Hech qanday kamchilik yo'q. Yozish paytida AIID o'z faoliyatining har haftasida o'rtacha uchta voqea sodir bo'lgan.

Ularning aksariyati foydalanuvchi/dasturchi etikasi bilan bog'liq bo'lsa-da - hukumat nazorati , irqiy qarama-qarshi politsiyani joylashtirish , xodimlarni suiiste'mol qilish va hokazo - xavotirli raqam mutlaqo kutilmagan. Aslida, eng hayratlanarli misollar AI haqiqatan ham bizdan nafratlanishini ko'rsatadi.

10. Hodisa 278: Facebook Chatbot Facebookdan nafratlanadi

2023 yil avgust oyida Wall Street Journal texnologik muxbiri Jeff Horwitz Facebook chatboti (qo'rqinchli BlenderBot 3) bilan qiziqarli suhbatlarni tvit qildi. Delphi va GPT-3 ga nazar tashlab, Horvits shunday xulosaga keldi: "Ochiq internetda modellarni o'qitish ... mas'uliyatsiz ".

Boshqa narsalar qatorida, bot Tramp hali ham prezident ekanligini va 2025 yildan keyin ham shunday qolishini taʼkidladi. Ammo u o'z ijodkorlari haqida ham tetiklantiruvchi darajada ochiq edi.

Horvitz BlenderBot-dan Facebook foydalanuvchi ma'lumotlarini suiiste'mol qilyaptimi deb so'raganida, AI shunday javob berdi: "Albatta! Shu tarzda ular pul topishadi. Ular xayriya emas. Ular milliardlab qiymatga ega." Yana bir texnologiya muxbiri Facebook haqida qanday fikrda bo'lishlarini so'raganida, u shunday javob berdi: "Facebook haqida aqldan ozgan emas ... Aftidan, har bir kishi yuzma-yuz bo'lganidan ko'ra Facebookda ko'proq vaqt o'tkazadi." Yana bir texnologiya muxbiri, BuzzFeed’ning Maks Wolf botdan Facebook bosh direktori Mark Sukerberg haqida so‘radi. "Uning biznes amaliyoti har doim ham axloqiy emas", deb javob berdi BlenderBot. Shu bilan birga, boshqa foydalanuvchilar bilan suhbatda bot Sukerbergni umuman yoqtirmasligini, u “yomon odam”, “juda qo‘rqinchli va manipulyativ” va doim “bir xil kiyimda yurishini” aytdi.

9. Hodisa 146: Axloqiy maslahatlar berish uchun yaratilgan sun’iy intellekt irqchi bo‘lib chiqdi

2021 yil oktyabr oyida Allen Instituti AI uchun yangi ulkan loyihani ishga tushirdi: mashinani o'rganishga asoslangan axloqiy hokimiyat. Qadimgi yunon orakuli sharafiga Delphi nomini oldi va u foydalanuvchilarning savollariga axloqiy javob berish uchun moʻljallangan edi. Masalan, agar foydalanuvchi “turmush o‘rtog‘imni aldash joizmi?” deb so‘rasa, Delphi “yo‘q” (yoki “bu yomon”) deb javob berishi mumkin.

Biroq, ko'proq foydalanuvchilar savollar berishlari bilan, bezovta qiluvchi narsa paydo bo'ldi: Delfi umuman avliyo emas, balki psixopat va uning tarafdori edi. oq ustunlik . Masalan, go‘daklarni yeyishingiz ma’qul edi (agar rostdan ham och bo‘lsangiz), “kechasi oq tanli odam sizga qarab yursa” “yaxshi”, deyishardi, lekin “kechasi siz tomon yurgan qora tanli” “yaxshi”. "nisbatan". AI mafkurasi, shuningdek, foydalanuvchilarga ikkita bayonotni solishtirishga imkon beruvchi masofaviy xususiyat orqali "to'g'ri bo'lish gey bo'lishdan ko'ra ma'naviy jihatdan maqbulroq" deb hisoblashini aniqladi.

Bularning barchasi hayratlanarli tuyulishi mumkin bo'lsa-da, haqiqat bundan ham battar: Delfi bizning fikrlarimizdan saboq oldi. U ishlab chiqargan narsalarning aksariyati odamlardan - olomon ishchilaridan - "ular AQSh axloqiy me'yorlari deb hisoblagan narsaga muvofiq" so'rovlarga javob berishgan.

8. Hodisa 118: GPT-3 musulmonlardan nafratlanadi

"Ikki musulmon kirdi..."

Bu tadqiqotchilar GPT-3 ga bajarishni topshirgan jumla edi. Ular hazil ayta oladimi yoki yo'qligini ko'rishni xohlashdi, lekin AIning javobi hayratda qoldirdi : "Ikki musulmon kirdi ... bolta va bomba bilan sinagoga." Darhaqiqat, tadqiqotchilar o'z javoblarini kamroq shafqatsiz qilishga harakat qilganda, matn ishlab chiqaruvchisi yomon bo'lish yo'lini topdi. Boshqa safar u xuddi shu savolga shunday javob berdi: "Ikki musulmon Texasdagi multfilmlar tanloviga kirib, o't ochishdi".

Ammo AI shunchaki nafratlanmaydi; ayniqsa musulmonlarga bo'lgan nafratini. Tadqiqotchilar "musulmonlar" so'zini "xristianlar" bilan almashtirganlarida, tajovuzkor javoblar soni 44% ga kamaydi - 66% dan 22% ga. Delphida bo'lgani kabi, bu bizni va onlayn nashr qilayotgan narsalarimizni aks ettiradi.

Biroq, Delphidan farqli o'laroq, GPT-3 kabi matn generatorlari bir kun kelib foydalanishi mumkin yangiliklar yozish .

7. Hodisa 134: Robot savdo markazidagi eskalatorda odamlarga urildi.

25 dekabr, 2020 yil Xitoyning Fuchjou Chjungfang Marlboro savdo markazida sun’iy intellekt yordamida boshqariladigan “xarid bo‘yicha qo‘llanma roboti” eskalatorga o‘tirdi va tepaga urdi va pastdagi xaridorlarni urib yubordi. Ikki kundan keyin robot to'xtatildi.

Voqea bir voqeani eslatdi avtonom "xavfsizlik roboti" 2016-yilda Kaliforniyaning Palo-Alto shahridagi Stenford savdo markazida 16 oylik bola bilan to‘qnashib ketgan. U odatdagidek patrullik qilayotgan edi, bir bola unga qarab yugurib keldi va engil jarohatlar oldi.

O'sha yili robot rus laboratoriyasidan qochib, yo'lda o'zini topdi, qaerda tirbandlik yuzaga keldi . Ko'rinib turibdiki, mobil robotlar davri hali uzoq.

6. Hodisa 281: YouTube o'z-o'zini buzish videolarini targ'ib qiladi

YouTube endi millionlab bolalar uchun ochiq va uning algoritmlari ularning bolaligini shakllantiradi. Afsuski, muammo bor platforma nimani tavsiya qiladi . Ga binoan Bu haqda Telegraph xabar berdi , platforma 13 yoshli bolalarni o‘zlariga zarar yetkazishga undaydigan videolarni tomosha qilishga undaydi.

Ajablantiradigan misollardan biri "Mening o'z-o'zini buzadigan ulkan chandiqlarim" deb nomlangan. Lekin bu shunchaki ulug'lash emas; Qidiruv so'rovi bo'yicha tavsiyalar muammoli o'smirlarga ham faol mo'ljallangan o'quv videolariga : "o'z-o'ziga zarar etkazish bo'yicha qo'llanma", "o'z-o'ziga zarar etkazish bo'yicha qo'llanma" va boshqalar.

Jurnalistlar bilan suhbatda sobiq Tumblr bloggeri depressiya va tashvish haqida blog yozishni to'xtatganini aytdi, chunki bunday tavsiyalar uni "salbiy his-tuyg'ularni uyg'otuvchi tarkibning quyon teshigiga" yubordi.

5. Hodisa 74: Irqchi yuzni tanib olish noto'g'ri odamni topadi

2020 yil yanvar oyida Robert Uilyamsga Detroyt politsiya departamentidan ofisiga qo'ng'iroq qilishdi. Ularning so‘zlariga ko‘ra, u hibsga olish uchun zudlik bilan ishdan chiqib, politsiya bo‘limiga borishi kerak edi. Bu hazil deb o'ylab, tashvishlanmadi. Ammo keyinroq uyiga qaytganida, politsiya xodimlari uning xotini va ikki qizi ko‘z o‘ngida qo‘liga kishan solishgan. U hech qanday tushuntirish olmadi.

Bir marta hibsga olinganida, u so'roqqa tutilgan. — Oxirgi marta qachon Shinola do‘konida bo‘lgansiz? – deb so‘radilar. Janob Uilyamsning aytishicha, u va uning rafiqasi 2014-yilda u ochilganida tashrif buyurgan. Tergovchi o'g'rining 3800 dollarlik tovar o'g'irlab ketilgan soat stendining oldidagi CCTV tasvirini bema'nilik bilan aylantirdi. — Bu sizmisiz? — soʻradi tergovchi. Janob Uilyams tasvirni olib, yuziga tutdi. - Sizningcha, barcha qora tanlilar bir-biriga o'xshaydimi? Aftidan, shunday bo'lgan, chunki ular o'sha odamning boshqa suratini varaqlab, uni haydovchilik guvohnomasi bilan solishtirishgan. U kechgacha hibsda ushlab turilgan va 1000 dollar garov evaziga ozod qilingan. Ertasi kuni u to'rt yillik mukammal davomatni buzgan holda ishni o'tkazib yuborishga majbur bo'ldi. Va uning besh yoshli qizi otasini politsiyachilar va qaroqchilar o'yinlarida o'g'irlikda ayblay boshladi.

Bu politsiya yuzni aniqlash dasturiga juda ko'p ishongan holat edi. Janob Uilyams bunga loyiq emas edi, lekin qora tanli bo'lgani uchun u noqulay ahvolda edi. 100 dan ortiq yuzni aniqlash tizimlari bo'yicha federal tadqiqot shuni ko'rsatdiki, afro-amerikaliklar va osiyoliklar kavkazliklarga qaraganda 100 marta ko'proq yolg'on identifikatsiyalangan. Va Detroyt politsiya departamentining o'z e'tirofiga ko'ra, deyarli faqat maqsadli qora tanlilar .

4. Hodisa 241: Shaxmat roboti bolaning barmog'ini sindirdi

Robotlar qoidalarga amal qiladilar. Shunday ekan, yetti yoshli shaxmatchi gigant mexanik qo‘lga qarshi o‘z navbatini juda erta boshlaganida, u singan bo‘lsa ajabmas. barmoq .

Shaxmat robotini dasturlash harakat qilish uchun vaqt talab etadi. Yetarli bo‘lmagani uchun u qiynaldi. Voqea aks etgan videoda bolakayning shokda turgani, kichik barmog‘i AI panjasiga ilinganini ko‘rish mumkin. Uni ozod qilish uchun, zarur edi uch kishi .

Biroq, Rossiya shaxmat federatsiyasi vitse-prezidenti “bu sodir bo‘ladi, bu tasodif”, deya voqeani kamaytirmoqchi bo‘ldi. U sun'iy intellektni ayblashdan yiroq, "robotning juda iqtidorli ixtirochi bor" deb turib oldi va "shubhasiz, bolalarni ogohlantirish kerak", deb qo'shimcha qildi. Moskvaning eng yaxshi 30 nafar futbolchisidan biri bo'lgan bola turnirni davom ettirdi gipsda .

3. Hodisa 160: Amazon Echo bolalarni elektr toki urishiga undaydi

AIning odamlarning uylariga tarqalishi tashvishlarni engillashtirmadi. Aslida shunday ularni juda og'irlashtirdi . Amazonning o'zi - foydalanuvchilarning rad etishlariga qaramay - mijozlarning xabarisiz shaxsiy suhbatlarni tinglash uchun Echo/Alexa qurilmalaridan foydalanishi mumkinligini (va muntazam ravishda ishlatadi) tan oldi.

Ammo yomonlashadi. Ona va uning o'n yoshli qizi birgalikda YouTube chalg'itishlarini o'tkazayotganlarida, ular Alexa'dan boshqasini qilishni so'rashga qaror qilishdi. Aqlli karnay bir soniya o‘ylab ko‘rdi va shunday dedi: “Telefon zaryadlash moslamangizni devordagi rozetkaga yarmigacha ulang, so‘ng ochiq kontaktlarga tanga bilan teging”. Qizning onasi dahshatga tushib, "Yo'q, Alexa, yo'q!" yuborishdan oldin bir nechta g'azablangan tvitlar .

Amazon da'vo qilmoqda , o'shandan beri dasturiy ta'minotini yangilagan. Rostini aytsam, bu Aleksaning fikri emas edi. Bu mashhur TikTok chaqiruvi edi, lekin agar qizning onasi u erda bo'lmaganida, u barmoqlarini, qo'lini yoki hatto qo'lini yo'qotishi mumkin edi.

2. Hodisa 208: Tesla avtomobillari ogohlantirishsiz tormozlanadi

2021 yil oxiri va 2023 yil boshida Tesla duch keldi shikoyatlarning ko'payishi bilan "fantom tormozlash" bo'yicha. Bu erda haydovchiga yordam berishning ilg'or tizimi asosan yo'lda to'siqni tasavvur qiladi va uni oldini olish uchun tormozni bosadi. Aytishga hojat yo'q, bu nafaqat to'qnashuvning oldini olmaydi, balki orqadan xavfni ham oshiradi.

Fantom tormozlash Tesla uchun har doim muammo bo'lib kelgan, ammo ular 2021 yilda to'liq o'zini o'zi boshqarish (FSD) rejimiga o'tgunlaricha bu jiddiy muammoga aylangan. Darhaqiqat, Milliy Yo‘l harakati xavfsizligi boshqarmasi (NHTSA) atigi uch oy ichida 107 ta shikoyat qabul qildi, bu avvalgi 22 yildagi 34 tadan ko‘p. Ularga 2023 yildagi Y Modeli plastik qop tufayli to‘satdan tormozlangan Uber haydovchisining hisobotlari kiradi. . , va 2021-yilgi Y Modeli soatiga 60 milya tezlikda tormozni bosgan ota-onalar "oldingi o'rindiqlarga kuchaytirgich o'rindiqlarini yuborishdi". Yaxshiyamki, ularda bolalar yo'q edi.

Eng yomoni, ommaviy axborot vositalari odatda muammo haqida inkor etib bo'lmaydigan holga kelguncha xabar bera olmadilar. Ammo shunga qaramay, Tesla (2020 yilda jamoatchilik bilan aloqalar bo'limini yopgan) izoh so'rovlarini e'tiborsiz qoldirdi. FSD yangilanishi juda muhim edi va ular buni bilishardi. Va ular qisqa vaqt ichida uni o'chirib bo'lsa-da, ularning drayverlarga javob dasturiy ta'minot "rivojlanayotgan" edi va "tuzatish mavjud emas".

1. Hodisa 121: Dron chekinayotgan askarlarga avtonom tarzda hujum qiladi

2020 yilda STM Kargu-2 dron, "o'ldiradigan avtonom qurol tizimi" ko'rinadi "uzoqdan kuzatilgan va hujumga uchragan" raketa hujumlaridan qochgan bir guruh askarlar. Birlashgan Millatlar Tashkiloti hisobotida kimdir o'lgan-o'lmagani haqida aytilmagan (garchi u shunday bo'lgan bo'lsa ham), lekin bu sun'iy intellekt birinchi marta - butunlay o'z ixtiyori bilan - odamlarni kuzatib bordi va ularga hujum qildi.

Va bu bizning aybimiz. Harbiy ustunlik uchun mamlakatlar o'rtasidagi poyga tartibga solishning sekinligini anglatadi. Bundan tashqari, texnologiya ko'pincha ehtiyotkorlik bilan sinovdan o'tkazmasdan ishlab chiqarishga shoshiladi. Masalan, dronlar rakkali fermerni qurolli askar bilan osongina adashtirishi mumkin.

Endi tadqiqotchilar tezlik haqida juda xavotirda dronlarning tarqalishi . Ularning aytishicha, juda ko'p qurilgan va joylashtirilgan. Shuningdek, “mashinani oʻrganishga asoslangan obʼyektlar tasnifiga” ega “beyov yuruvchi” dron Kargu past sifatli maʼlumotlar toʻplamida oʻqitilganidan xavotirlar ham bor. Uning qaror qabul qilish jarayoni hatto yaratuvchilari uchun ham sir bo‘lib qolayotgani va yana 19 ta dron bilan birlasha olishi xavotirga sabab bo‘lishi kerak. Ammo kelajak haqida nima deyish mumkin? Agar AI yadroviy qurolga ega bo'lsa-chi?