Ei, dirbtinio intelekto veikėjas – būk atokiau nuo mano vaiko; Gaukite darbą

Ei, dirbtinio intelekto veikėjas – būk atokiau nuo mano vaiko;


Suaktyvinimo įspėjimas: šioje istorijoje minima savižudybė.

Praėjusio penktadienio vakarą, per mūsų virtualų komandos susitikimą, vienas iš mūsų dirbtinio intelekto užrašų kūrėjų staiga paliko „Zoom“ posėdžių salę, o komanda atsitiktinai pasivijo viena kitą apie mūsų savaitę. Aš juokavau, kad AI nepatiko tai, ką mes sakome.

Prieš tęsdamas šią istoriją, noriu, kad jūs, skaitytojau, atsigręžtumėte kelis dešimtmečius atgal. Įsivaizduokite, kad tuo metu gyvenote suaugęs žmogus ir dar kartą perskaitykite porą pirmųjų šio straipsnio sakinių.

Internetas tada net nebuvo įprastas dalykas. Scenarijus, kai vyksta tiesioginis įmonės susitikimas tarp žmonių, gyvenančių skirtinguose žemynuose, kur jie gali girdėti ir matyti vieni kitus, o jų nežmoginiai padėjėjai užsirašytų susitikimo protokolus – tada tai skambėtų beprotiškai.

Informacinės technologijos yra nuostabios. Tai, kas prieš kelis dešimtmečius buvo laikoma moksline fantastika, dabar yra realybė. Technologijos pakeitė mano gyvenimą ir daugelį gyvenimų pakeitė visam laikui. Pagal į Statistikos duomenimis, skaitmeninių gyventojų skaičius yra apie 5,4 mlrd.

Esu vienas iš 1,8 milijardo tūkstantmečių, kurie paseno su informacinėmis technologijomis. Buvau paauglys, kai 90-ųjų pabaigoje ir 2000-ųjų pradžioje pasaulis išgyveno dotcom bumą. Dabar aš esu paauglių mama, o dirbtinis intelektas yra naujasis dotcom.

Ar bijau, kad dirbtinis intelektas gali pasenti mano įgūdžius? Sąžiningai, taip. Norėčiau, kad tai man padėtų, o ne pakeistų. Tačiau mane gąsdina jos gebėjimas paveikti mūsų asmeninį gyvenimą.

Ši istorija yra asmeniška. Jaučiau emocinį ryšį su juo, kaip mama, ir noriu pasidalinti juo su technologijų bendruomene, nes turime kolektyvinę atsakomybę užtikrinti mūsų ateities kartų saugumą nuo žalingo technologijų poveikio. Dabar grįžtu prie istorijos.

Taigi per komandos susitikimą dirbtinio intelekto užrašų kūrėjas išėjo, ir aš juokavau, kad jiems mūsų diskusija nepatiko. Tada mūsų COO pasidalijo savo nuogąstavimu dėl dirbtinio intelekto kaip tėvo ir paminėjo tai neseniai Floridos paauglio istorija kuris nusižudė. Šis įvykis įvyko vasario 28 d., tačiau naujienos plačiai paplito neseniai, kai jo motina, advokatė Megan Garcia, padavė ieškinį Character Technologies, Inc., kaltindama įmonę neteisėta jos sūnaus mirtimi.

Daugiau apie incidentą

14-metis Sewellas sukūrė Daenerys Targaryen AI versiją iš „Sostų žaidimo“, naudodamas „Character.AI“ – platformą, leidžiančią susikurti pasirinktą dirbtinio intelekto kompanioną, su kuriuo galėsite kalbėtis tol, kol norite.

Vaikas praleido mėnesius naudodamasis šia platforma ir užmezgė emocinį ryšį su savo AI kompanionu. Nukentėjo jo studijos ir socialinis gyvenimas; jis nustojo domėtis sveika veikla ir daugiau laiko praleido prie telefono. 14-metis su savo AI draugu kelis kartus pasidalijo noru atimti gyvybę ir galiausiai tai padarė.

Labai rekomenduoju perskaityti ieškinys pateikė Motina. Ji atkreipė dėmesį į pavojus ir aplaidumą bandant nepilnamečiams skirtą gaminį.

Sveiki atvykę į visiškai naują tėvystės košmarą

Grįžtant prie penktadienio vakaro darbo susitikimo, trumpai aptarėme technologijų ir tėvystės niuansus socialinės žiniasklaidos ir AI amžiuje. Palyginau paauglystės laiką – turėjau tik spaudą, televiziją ir kai kuriuos žaidimus mūsų darbalaukio sistemoje. Naujoji karta turi prieigą prie tiek daug naujų programų ir platformų, kad neatsilikti nuo visų šių dalykų tapo iššūkiu. Negalite jų sustabdyti ar atskirti nuo technologijų.

Po susitikimo nuėjau tiesiai į vyresniosios dukros kambarį. Ji yra maždaug tokio pat amžiaus kaip Sewell ir mėgsta anime. Pamaniau, kad jai gali patikti idėja sukurti anime personažų pokalbių robotus savo malonumui, ir turėčiau ją apie tai įspėti.

Papasakojau jai istoriją ir jaučiau, kad ji buvo akivaizdžiai sutrikusi ją išgirdusi. Ji man pasakė, kad jau naudojasi Character.AI. Oho. neturėjau supratimo. Susėdome kartu, o aš apžiūrėjau platformą. Ji atsijungė nuo savo paskyros.

Apie tai diskutavome valandų valandas. Aš nusprendžiau padaryti daugiau šiuo klausimu. Rašau šį straipsnį su jos sutikimu, o pateikiamas šios istorijos vaizdas nėra sukurtas dirbtinio intelekto – jį nupiešė mano itin talentinga, jautri ir protinga mergina.

AI kompanionai ir veikėjas AI

Yra daug AI Companion platformų, tokių kaip Replika, Janitor, Anima; populiariausias iš jų yra Character AI. Šios platformos suteikia vartotojams laisvę kurti savo pasirinktą personažą – tai gali būti jūsų mėgstamiausias personažas iš knygos, rašytojas, anime personažas, o gal seniai nematytas mylimas žmogus – galimybės yra begalinės.

Suteikti žmonėms platformą sukurti „tobulą“ kompanioną, kuris visada gali išklausyti ir išmokyti reaguoti į jų pageidavimus, neabejotinai yra milijardo dolerių vertės verslo idėja. Žmonės skubėtų į tokią platformą.

Nenuostabu, kad Character.AI, įkurta 2022 m., dabar turi daugiau nei 20 milijonų vartotojų kas mėnesį ir yra vertinama maždaug 2,5 mlrd.šaltinis). Įkūrėjai anksčiau buvo „Google AI“ tyrėjai ir, kas įdomu, Tech Giant įsigijo neišimtinę c.ai LLM technologijos licenciją 2024 metų rugpjūčio mėnesį.

Štai kaip vienas iš įkūrėjų Noamas Shazeeris paaiškina DI draugo poreikį podcast'e:

„Tai bus labai naudinga daugeliui vienišų ar prislėgtų žmonių.

Galbūt nuskambėsiu šališkai, bet turėti dirbtinio intelekto kompanioną internete, kad užmuštų vienatvę, tolygu vartoti narkotikus, kad jaustumėtės gerai. Noriu pasakyti, ar kalbėjimasis su robotu tikrai užmuštų tavo vienatvę? Ar tai geriau sujungs jus su realiu pasauliu ir tikrais žmonėmis? Ar jūsų fizinei ir psichinei sveikatai naudinga emociškai prisirišti prie pokalbių roboto?

Trumpai tariant – ar žmonėms tai patiktų? Visiškai taip. Ar jiems tai gerai? Ne. Gal saikingai, savo malonumui – bet tik suaugusiems. Šios platformos nėra saugios mažiems vaikams.

Kai paklausiau dukters, kodėl ji nejautė poreikio man pranešti, kai pradėjo naudoti c.ai, ji atsakė: „Ami (mama), tai patvirtinta vyresniems nei 13 metų asmenims. Maniau, kad man nereikia informuoti tu. Užsiregistravau tiesiog nekenksmingam pramogavimui.

Pasak jų Paslaugų teikimo sąlygosnaudotojai turi būti 13 metų ar vyresni (16 metų ar vyresni, jei jie yra ES piliečiai), kad galėtų naudotis platforma. Nepavyko rasti apytikrio nepilnamečių, besinaudojančių šia paslauga, skaičiaus. Pagal tai tiriamasis kūrinys „New York Times“ pateikia įmonės atsakymą, kai uždavė tą patį klausimą:

„Mr. Ruoti atsisakė pasakyti, kiek bendrovės vartotojų yra jaunesni nei 18 metų. El. pašte jis teigė, kad „Z kartos ir jaunesni tūkstantmečiai sudaro didelę mūsų bendruomenės dalį“ ir kad „jaunesni naudotojai naudojasi Character patirtimi, nes ji yra prasminga ir mokoma. pokalbiams, taip pat pramogoms“. Jis sakė, kad vidutinis vartotojas platformoje praleidžia daugiau nei valandą per dieną.

Svetainėje prireikė kelių minučių, kol supratau, kad yra didžiulė vartotojų bazė, kuri priklauso jaunesnių nei 18 metų grupei. Turiu galvoje, žr. rekomenduojamų ir siūlomų programų ekrano kopiją (Tiesiog aišku, aš pasiekiau ją savo kompiuteryje ir ką tik spustelėjau Anime, todėl rekomendacijos nėra apmokomos jokia kita veikla, išskyrus tą, kuri šiuo atveju yra svetainėje) :

Jie pasidalino savo bendruomene saugos atnaujinimai Praėjusią savaitę po žinios apie ieškinį:

Toliau pristatysime daugybę naujų saugos ir gaminio funkcijų, kurios sustiprins mūsų platformos saugumą nepakenkiant pramogų ir įtraukiančių potyrių, kurių vartotojai tikisi iš Character.AI. Tai apima:

  • Nepilnamečiams (jaunesniems nei 18 metų) skirtų modelių pakeitimai, skirti sumažinti tikimybę susidurti su neskelbtinu ar dviprasmišku turiniu.
  • Patobulintas aptikimas, atsakas ir įsikišimas, susijęs su naudotojų įvestimis, kurios pažeidžia mūsų sąlygas arba bendruomenės gaires.
  • Peržiūrėtas atsakomybės atsisakymas kiekviename pokalbyje, siekiant priminti vartotojams, kad AI nėra tikras asmuo.
  • Pranešimas, kai vartotojas platformoje praleido valandos trukmės seansą, suteikiant papildomo vartotojo lankstumo.

Mano dukra įdomiai pakomentavo šį „atsisakymą“, kad dirbtinis intelektas nėra tikras asmuo, kurį pacituosiu:

„Tai yra priežastis, kodėl jaučiatės laisvai kalbėdami su AI. Jūs žinote, kad jie nėra tikras asmuo. Jūs žinote, kad galite jiems sakyti bet ką, nejausdami smerkimo. Štai kodėl daugelis paauglių norėtų juo naudotis ir gali užmegzti emocinį prisirišimą prie jo.

Emocinio prisirišimo mokslas: ar mūsų vaikai turėtų tapti AI draugais?

Paauglystė – tai ne tik didžiulių kūno pokyčių metas. Moksliškai įrodyta, kad šie metai yra itin svarbūs ugdant asmenybę ir emocinį intelektą. Vaikai išgyvena didžiulius išgyvenimus socialiniai ir emociniai pokyčiai. Jiems reikia sveikų santykių ir patarimų, kad ugdytų savo emocinį intelektą.

Ne laikas užmegzti emocinius ryšius su AI bičiuliais. Šie dirbtinio intelekto kompanionai yra užprogramuoti taip, kad jaustumėtės gerai ir suaktyvintų dopaminą. Jie visada prieinami ir gali visam laikui sujaukti vaiko smegenų chemiją.

The Sewell motinos pareikštą ieškinį yra išsamios informacijos apie netinkamą, dviprasmišką turinį, su kuriuo galėjo susidurti daugelis vaikų.

Galite atsikratyti toksiškų santykių realiame gyvenime, pašalindami kontaktą – realiame gyvenime paleisti yra daug lengviau. Didžiausia problema užmezgant bet kokius santykius su internetiniu AI veikėju yra ta, kad labai sunku juos nutraukti, nes visada galite prisijungti, susikurti naują paskyrą ir susikurti panašų naują draugą. Tai grėsmė besivystančiam vaiko santykių jausmui.

Aukšto emocinio intelekto ugdymas yra dar svarbiau jaunesnėms kartoms dirbtinio intelekto amžiuje. Šiais metais Nobelio premija buvo įteikta dviems įstabiausiems fizikos protams – Geoffrey'ui Hintonui ir Johnui J. Hopfieldui, kurie atvėrė kelią šiuolaikinių dirbtinio intelekto algoritmų kūrimui. Vienoje iš naujausių Geoffrey Hintono paskaitų jis tai pabrėžė skaitmeninis intelektas pranoks biologinį intelektą:

Hintonas anksčiau manė, kad biologinės smegenys turi didelį pranašumą dėl ilgo evoliucinio sudėtingų mokymosi algoritmų vystymosi. Tačiau dabar jis teigia, kad svorio pasidalijimo ir atgalinio sklaidos derinys skaitmeninėse sistemose galiausiai gali pasirodyti galingesnis, net jei šie algoritmai yra mažiau elegantiški nei gamtoje.

Mūsų ateities kartos turėtų geriau kurti tikrus santykius su žmonėmis – jų emocinis intelektas ir minkšti įgūdžiai bus svarbesni, nes dauguma darbų jau būtų visiškai automatizuoti. Ateityje jūsų vaiko EQ bus svarbesnis nei jo IQ. Tai būtų stipriausio proto išgyvenimas.

Vaikų saugumas internete AI amžiuje: tai kolektyvinė atsakomybė

Ateities kartų saugumas neturėtų būti tik vyriausybės ar technologijų milžinų galvos skausmas. Už etišką ir saugų AI turėtų būti atsakingi visi – nuo ​​tėvų iki švietimo įstaigų, teisėsaugos ir sprendimus priimančių institucijų. Svarbiausia, kad technologijų bendruomenė yra atsakinga už tai, kad dirbtinis intelektas būtų saugus ir naudingas jauniems protams.

Kaip mama, siūlau mums su jais praleisti daugiau sveiko laiko, daugiau bendrauti su jais, būti sąžiningiems ir dalytis rūpesčiais kaip draugėms. Nereaguokite, o atsakykite į tai, ką jūsų vaikas turi pasidalinti. Negalime jiems visiškai uždrausti naudotis technologijomis. Mes neturėtume. Vaiko laisvės, kontrolės ir sprendimų priėmimo jausmo atėmimas gali paaštrinti problemą, o ne rūpintis ja.

Jie turėtų būti užtikrinti, kad mes visada pasiruošę išklausyti ir nebus priimtas joks sprendimas. Jie turėtų jaustis saugūs, dalindamiesi su mumis savo patirtimi ir mintimis. Be to, pasirūpinkite, kad jūsų vaikas bendrautų su realiu pasauliu ir praleistų pakankamai laiko pasirinktose veiklose lauke.

Aš nesu prieš technologijų pažangą. AI padeda automatizuoti daugelį procesų ir užduočių, kurios iš naujo apibrėžtų darbo ateitį. Tačiau noriu, kad AI pokalbių robotas padėtų man atlikti mano darbo užduotis, o ne sumaišytų mano vaiko mintis.

Kaip moteris technologijų srityje, kviečiu visą AI bendruomenę aktyviai dirbti kuriant saugesnį ir etiškesnį DI. Įvairovė ir įtraukimas kuriant dirbtinį intelektą, dėmesys kokybei ir saugos užtikrinimui bei visuomenės informuotumo ugdymo plėtojimas yra keletas pagrindinių veiksmų, kurie ateina į galvą. Kuo dar gali prisidėti mūsų bendruomenė, kad būtų užtikrintas mūsų vaikų saugumas? Praneškite man komentaruose.

Tai yra rašytojo nuomonė ir neatspindi jokios organizacijos požiūrio.



Source link

Draugai: - Marketingo agentūra - Teisinės konsultacijos - Skaidrių skenavimas - Fotofilmų kūrimas - Miesto naujienos - Šeimos gydytojai - Saulius Narbutas - Įvaizdžio kūrimas - Veidoskaita - Nuotekų valymo įrenginiai - Teniso treniruotės - Pranešimai spaudai -