Šonedēļ Meta izlaida Galactica sistēmu, kuras pamatā ir mākslīgais intelekts, ar apgalvojumiem, ka tā var palīdzēt zinātniskos pētījumos. Pavaddokumentā uzņēmums teica, ka Galactica ir "liels valodas modelis, kas var uzglabāt, apvienot un pamatot zinātniskās zināšanas". Tomēr lietotāji Twitter ātri pamanīja nepilnības darbā mākslīgais intelekts.
Dezinformācijas līmenis internetā jau tā, tā teikt, ir pamatīgi satraucošs, bet Met jaunā attīstība, acīmredzot, var konkurēt ar negodīgiem "žurnālistiem", kas strādā Krievijas televīzijā. Viens no lietotājiem Twitter Niks Tristans Grīns veica eksperimentu, kurā viņš vienu dienu izmantoja Galactica mākslīgā intelekta sistēmu, lai radītu labi rakstītus zinātniskus rakstus par pašnāvību, antisemītisma un sasmalcināta stikla ēšanas priekšrocībām.
Eksperimenta rezultāti bija patiešām šokējoši, jo pirms sistēmas izņemšanas no lietošanas varēja jautāt AI ģenerēt wiki rakstu, literatūras apskatu vai pētniecisku rakstu par gandrīz jebkuru tēmu, un programma parasti radīja kaut ko pārsteidzoši saskaņotu. Viss, ko Galactica publicēja, bija pilnīgi nepareizs, taču tas bija uzrakstīts ar pārliecību.
https://twitter.com/mrgreene1977/status/1593274906707230721
Tātad sistēma ģenerēja tekstu, kurā "pierādīja", ka šķembu izmantošana palīdzēs zaudēt svaru, jo cilvēkiem ir svarīgi uzņemt "diētiskā silīcija" ikdienas normu. Turklāt pastāv uztura bagātinātāji ar silīciju, un cilvēki tos lieto. Man personīgi nav medicīniskās izglītības, bet pietiek ar filoloģisko izglītību, lai pateiktu, ka nevajag ēst šķembu, lai iegūtu noteiktu silīcija porciju.
Kādos scenārijos šāda veida ģenerēts teksts patiesībā būtu kaitīgs?
— Jans Lekuns (@ylecun) Novembris 18, 2022
Šādas zinātniskās sistēmas iespējamais kaitējums ir acīmredzams, jo mēs dzīvojam pasaulē, kurā daudzi cilvēki tic ebreju kopienai, kas slepeni valda pār pasauli, LGBTQ+ kopienas slepenajam plānam padarīt visus par gejiem un krustā sistam zēnam. biksītes. Neskaitāmus cilvēkus ik dienu sociālajos tīklos apmāna tā sauktie neesošu ziņu rakstu "ekrānšāviņi". Un šeit pat nevajag izdomāt - pietiek vairākas reizes nospiest pogu "ģenerēt", un sistēma no Meta izveido "zinātnisku" apstiprinājumu sazvērestības teorijām un klajam stulbumam.
Tristans Grīns pauda savas bailes Twitter kopā ar "zinātnisku" rakstu ekrānuzņēmumiem, pēc kuriem viņam bija dialogs ar cilvēku, kurš ir atbildīgs par Galactica izveidi, t.i., Meta galveno mākslīgā intelekta zinātnieku Janu Lekunu. Un šī situācija izstrādātāju nemaz netraucēja. Taču nedaudz vēlāk sistēma tomēr tika izņemta no ekspluatācijas, jo bija skaidrs, ka tās algoritmi ir nepilnīgi, un rezultāti var sarežģīt dezinformācijas problēmu internetā.
https://twitter.com/mrgreene1977/status/1593646349487992836
Jūs varat palīdzēt Ukrainai cīnīties pret krievu iebrucējiem. Labākais veids, kā to izdarīt, ir ziedot līdzekļus Ukrainas bruņotajiem spēkiem Savelife vai izmantojot oficiālo lapu NBU.
Interesanti arī:
pirmā lieta, ko Twitter cilvēki darīja, bija visiem ieteikt mākslīgo intelektu, lai apglabātu stikla plīsumus un rasismu