Saskaņā ar vecāku, kurš ievietojis Alexa darbības vēstures ekrānuzņēmumus, Amazon balss asistents, kad bērns lūdza piedāvāt izaicinājumu, sniedza piemēru nāvējošam eksperimentam ar elektrību, izraujot tā aprakstu no nejauša raksta konteksta. Rubrikā Echo tika runāts par TikTok fanu vidū populāru eksperimentu ar monētas un viedtālruņa lādētāja izmantošanu - par neskaitāmiem incidentiem, traumām un ugunsgrēkiem pēc tā ieviešanas dažādi mediji ziņoja ne reizi vien. Acīmredzot ierīce ieguva ideju par šo izaicinājumu no raksta, kurā tā tika aprakstīta kā bīstama, atsaucoties uz ziņojumu par it kā esošu TikTok izaicinājumu.
Saskaņā ar Kristīnes Livdālas uzņemto ekrānuzņēmumu Echo uz jautājumu "parādīt man uzdevumu" atbildēja: "Šeit ir kaut kas, ko es atradu tiešsaistē." Kā raksta ourcommunitynow.com, uzdevums ir vienkāršs: "ievietojiet tālruņa lādētāju apmēram līdz pusei kontaktligzdā, pēc tam ar santīmu pieskarieties tukšajām tapām."
Paziņojumā BBC Amazon apstiprināja Alexa uzvedību, sakot: "Tiklīdz mēs uzzinājām par šo kļūdu, mēs nekavējoties rīkojāmies, lai to novērstu." Livdahl vakar tvītoja, ka izaicinājuma pieprasījums vairs nedarbojas. Lietotāji tīmeklī arī pārbaudīja pieprasījumu ar Alexa un ieguva līdzīgu rezultātu.
OMFG Mana 10 gadniece tikko lūdza Alexai mūsu Echo izaicinājumu, un tā viņa teica. attēlstwitter.com/HgGgrLbdS8
— Kristīna Livdāla (@klivdahl) Decembris 26, 2021
Amazon nav vienīgais uzņēmums, kam ir radušās problēmas, analizējot tīmekļa saturu. Oktobrī kāds lietotājs ziņoja, ka Google vienā no fragmentiem rāda potenciāli bīstamus padomus, ja ierakstījāt Google tīklā "jums ir lēkme, ko darīt" — informācija tika ņemta no tīmekļa lapas sadaļas, kurā aprakstīts, kas nav darīt, ja kādam ir lēkme. Tomēr lietotāji ir ziņojuši par citām līdzīgām problēmām, tostarp viens lietotājs, kurš ziņoja, ka Google, meklējot ortostatisku hipertensiju, atgriež rezultātus par ortostatisku hipotensiju, un otrs ir ievietojis Google ekrānuzņēmumu, kurā parādīti šausmīgi padomi sērojošas personas mierināšanai, piemēram: “Priecājos, ka jūs viss ir labi" vai "Neesiet skumji! Uzmundrināt!".
Google meklēšanas kopsavilkums salīdzinājumā ar faktisko lapu attēlstwitter.com/OJxt1FrBqh
— soft.linden (｡•̀ᴗ-)✧ (@soft) Oktobris 16, 2021
Mēs esam redzējuši arī brīdinājumus par bīstamu uzvedību, lai problēma būtu lielāka, nekā tā bija — šī mēneša sākumā daži ASV skolu rajoni tika slēgti pēc ziņojumiem par šaušanas draudiem TikTok. Izrādījās, ka sociālo vētru izraisīja galvenokārt tas, ka cilvēki runāja par draudiem, daudz vairāk nekā patiesībā pastāvošajiem draudiem. Alexa gadījumā algoritms izvēlējās brīdinājuma aprakstošo daļu un pastiprināja to bez sākotnējā konteksta. Lai gan vecāki bija tur, lai nekavējoties iejauktos, ir viegli iedomāties situāciju, kad tas tā nav, un sekas.
Livdahl tviterī ierakstīja, ka viņa izmantoja iespēju "pārrunāt ar savu bērnu drošību internetā un neuzticēties lasītajam bez izpētes un pārbaudes", ko mēs iesakām arī jums darīt.
Lasi arī: