Perskaite šį tekstą gausite 
Ko niekada nepasakoti „ChatGPT“
DI ekspertas, Valstybės skaitmeninių sprendimų agentūros (VSSA) patarėjas dr. Darius Amilevičius ir „Telia“ kibernetinio saugumo vadovas Darius Povilaitis, kalbėdami apie tai, kiek saugūs yra mūsų duomenys, kuriais dalijamės su „ChatGPT“, lyg sutartinai pasidalijo viena paprasta praktine taisykle – į bet kurią DI sistemą nerašyti to, kuo drąsiai viešai nesidalytumėte.
„Tai nereiškia, kad „ChatGPT“ yra savaime nesaugus įrankis. Tai reiškia, kad vartotojas turi suprasti, kokio tipo paskyra naudojasi, kokie duomenų naudojimo nustatymai įjungti ir ar organizacija yra patvirtinusi tokio įrankio naudojimą darbui su jautria informacija.
Skirtumas tarp asmeninės nemokamos paskyros ir verslo ar organizacinės aplinkos gali būti esminis: vienu atveju duomenys gali būti naudojami paslaugai gerinti, kitu atveju jie pagal numatytuosius nustatymus nėra naudojami modeliams mokyti.
Į nemokamą paskyrą siūlau žiūrėti kaip į pokalbį kavinėje – jus gali išgirsti bet kas. Jei turite verslo lygio paskyrą, pavyzdžiui, „Enterprise“, tai jau primena pokalbį su advokatu už uždarų durų, tačiau net ir ten reikia gerai pagalvoti, ką sakote“, – patarė dr. D. Amilevičius.
Pašnekovų teigimu, su „ChatGPT“ reikėtų nesidalyti ne tik jokiais asmens duomenimis, slaptažodžiais, medicinine ar finansine informacija su identifikuojančiais detaliais duomenimis, bet ir konfidencialiais darbo dokumentais, verslo strategijomis, klientų sąrašais ar unikaliais techniniais sprendimais.
„DI įrankiai yra galingi ir naudingi, tačiau jie nėra seifo pakaitalas. Vartotojai dažnai neįvertina, kad „privatus“ pokalbis su chatbotu – tai ne tas pats, kas pokalbis su žmogumi konfidencialumo prasme“, – teigė D. Povilaitis.
Dr. D. Amilevičius pridūrė, kad visada pataria į DI sistemą įvesti tik tai, ką galėtumėte drąsiai patikėti išoriniam konsultantui, kuris neturi jokios teisės žinoti jūsų paslapčių:
„Kodėl esu toks griežtas šiuo klausimu? Todėl, kad įkėlę tokią informaciją į asmeninę paskyrą, jūs akimirksniu prarandate jos kontrolę. Jūs nebegalite būti tikri, kur ji bus saugoma, kas ją peržiūrės ar kaip ji bus panaudota pačiai sistemai tobulinti.
Todėl praktiškiausias patarimas vartotojui: prieš įkeldami tekstą paklauskite savęs, ar būtų problema, jei šią informaciją pamatytų netinkamas žmogus? Jei atsakymas „taip“, tokios informacijos į asmeninę DI paskyrą kelti nereikėtų.“
Kur nukeliauja įvesti duomenys
Paprašytas paaiškinti, kur faktiškai keliauja vartotojų įvesti duomenys ir kokie yra realūs scenarijai, kur jie gali būti naudojami, dr. D. Amilevičius sakė, kad daugelis įsivaizduoja, jog jų pokalbiai tiesiog nugula skaitmeniniuose „aplankuose“, tačiau realybė, pasak jo, yra dinamiškesnė:
„Pirmiausia turime suprasti, kad jūsų parašytas tekstas akimirksniu keliauja į paslaugos teikėjo infrastruktūrą – be šios kelionės sistema tiesiog negalėtų sugeneruoti atsakymo. Tačiau, kas vyksta toliau, priklauso nuo jūsų pasirinkimo.
Dažniausiai duomenys tvarkomi trimis kryptimis: 1) istorijos saugojimas – kad galėtumėte bet kada grįžti prie savo pokalbio; 2) saugumo kontrolė – sistemos stebi, ar nėra piktnaudžiavimo ar bandymų kurti kenksmingą turinį; 3) sistemos tobulinimas – štai čia slypi didžiausia rizika ir kartu didžiausia painiava.
Nėra teisinga sakyti, kad kiekviena jūsų frazė automatiškai „patenka į modelį“. Asmeninėse paskyrose jūs patys valdote nustatymus ir galite riboti savo turinio naudojimą modelio mokymui. Tačiau bėda ta, kad nemokamų paskyrų naudotojai dažnai net nežino, kokie nustatymai yra įjungti.
Mano patarimas toks: jei dirbate su jautria informacija, pamirškite asmenines paskyras.
Visai kita taisyklė galioja verslo ar organizacinėse aplinkose. Pavyzdžiui, „Enterprise“ tipo paskyrose duomenys pagal nutylėjimą nėra naudojami bendriems modeliams mokyti. Tai kritinis skirtumas.
Todėl mano patarimas toks: jei dirbate su jautria informacija, pamirškite asmenines paskyras. Naudokite tik organizacijos patvirtintus, sutartimis ir techniškai kontroliuojamus sprendimus. Tik taip galėsite būti tikri, kad jūsų įvesti duomenys tarnauja jums, o ne svetimoms sistemoms tobulinti.“
Prie pokalbių gali prisiliesti ir žmogus
Ar vartotojų pokalbiai gali būti prieinami ne tik automatizuotoms sistemoms, bet ir žmonėms? Dr. D. Amilevičiaus teigimu, svarbu suprasti, kad DI pokalbis nėra privatus dienoraštis tradicine prasme ir yra atvejų, kai prie pokalbių gali prisiliesti žmogus:
„Nors atsakymus generuoja algoritmai, paslaugų teikėjai turi numatytas procedūras, kai prie jūsų pokalbių fragmentų gali prisiliesti žmogus. Paprastai tai vyksta keliais konkrečiais atvejais: kai tiriamos galimos piktnaudžiavimo apraiškos, užtikrinamas sistemų saugumas, vertinama atsakymų kokybė arba kai patys kreipiatės pagalbos į klientų aptarnavimo skyrių.
Tačiau mano patirtis rodo, kad vartotojams dažnai kur kas pavojingesnis ne paslaugos teikėjo darbuotojas, o kur kas kasdieniškesnė grėsmė – paskyros vagystė. Tai yra reali rizika, apie kurią per mažai kalbame. Jei naudojate silpną slaptažodį, tą patį derinį keliose svetainėse ir nesate įjungę dviejų veiksnių autentifikavimo (2FA), įsilaužėlis vienu metu gauna visą jūsų pokalbių archyvą. Tokiu atveju problema yra ne pati DI technologija, o tai, ką vadinu „paskyros higienos“ trūkumu.
Todėl rekomendacija paprasta: nekelti jautrios informacijos, įjungti dviejų veiksnių autentifikavimą, nenaudoti to paties slaptažodžio keliose sistemose, periodiškai peržiūrėti pokalbių istoriją ir jautriems darbams naudoti tik organizacijos patvirtintus sprendimus.“
Tam tikrą informaciją pamatė kiti vartotojai
Pasiteiravus, ar jautri informacija, kuria vartotojas pasidalija su „ChatGPT“, gali pasirodyti kituose atsakymuose, D. Povilaitis sakė, kad teoriškai tiesioginė tikimybė yra maža, tačiau praktika parodė, jog visiškai to atmesti negalima.
„2023 m. kovo mėnesį „Samsung“ inžinieriai į „ChatGPT“ įkėlė konfidencialų išeities kodą ir vidinius susirinkimų protokolus – paskui įmonė uždraudė darbuotojams naudoti šį įrankį darbo tikslais.
Tais pačiais metais buvo aptikta „ChatGPT“ klaida, leidusi kai kuriems vartotojams matyti kitų žmonių pokalbių pavadinimus – apie ką žmonės klausinėjo. Turinio nesimatė, tačiau pats faktas, kad toks nutekinimas techniškai įvyko, yra svarbus signalas“, – remdamasis „Bloomberg“, „Gizmodo“ ir CNBC pateikta informacija pavyzdžiais dalijosi D. Povilaitis ir pridūrė, kad tai – „ne paranoja, o dokumentuoti incidentai.“
Teisinė apsauga veikia, bet reikia išlikti budriems
Paklaustas, kaip praktikoje veikia ES teisinė apsauga tokio tipo sistemų atveju – ar ji realiai riboja duomenų naudojimą, ar dažniau veikia tik formaliai, dr. D. Amilevičius teigė mėgstantis sakyti, jog ES teisė, pavyzdžiui, BDAR, yra puikios „eismo taisyklės“:
„Jos nėra tik popierinės deklaracijos – jos realiai privertė technologijų milžinus įdiegti saugumo mygtukus, kurių kitur pasaulyje vartotojai tiesiog neturi.
Ryškiausias to įrodymas – 2023 m. įvykiai Italijoje, kai vietos priežiūros institucija laikinai apribojo „ChatGPT“ veiklą. Šis „šokas“ sistemų kūrėjams parodė, kad Europa nesitaikstys su skaidrumo trūkumu. Būtent dėl tokio spaudimo mes šiandien turime galimybę nustatymuose tiesiog išjungti savo duomenų naudojimą modelių mokymui. Tad teisinė apsauga veikia ir ji yra labai galingas įrankis.“
Tačiau pašnekovas atkreipė dėmesį, kad čia svarbu neapsigauti – pasak jo, BDAR nėra „antivirusinė programa“ ar automatinis skydas nuo neatsargaus elgesio:
„Reikia suprasti esminę spragą: šie įstatymai saugo jus kaip privatų asmenį, bet jie nesaugo jūsų įmonės paslapčių. Jei darbuotojas savo noru į asmeninę paskyrą įkels neviešą strategiją ar kliento duomenis, BDAR čia nepadės – tai bus konfidencialumo sutarties ar darbo drausmės pažeidimas.
Teisinis reguliavimas padaro kelius saugesnius, bet saugos diržą kiekvieną kartą privalome prisisegti patys. Todėl valstybinė apsauga turi eiti išvien su aiškiomis organizacijos taisyklėmis ir pačių vartotojų budrumu.“
Galimos rizikos ir padariniai
Pasiteiravus apie galimas rizikas, jei vartotojas į DI pokalbių sistemą įvestų jautrius ar konfidencialius duomenis, dr. D. Amilevičius teigė, kad dažnai jos atrodo kaip kažkas tolimo, tačiau realybėje yra labai apčiuopiamos. Ir pateikė keturis pagrindinius scenarijus:
„Pirmiausia – duomenų kontrolės praradimas. Kai įkeliate tekstą į asmeninę paskyrą, jis iškeliauja ten, kur jūs nebegalite valdyti viso jo „gyvenimo ciklo“. Net jei informacija nėra viešai paskelbiama, ji gali būti panaudota sistemai tobulinti, o tai reiškia, kad jūsų neviešos idėjos tampa kito asmens atsakymo dalimi.
Antrasis, ko gero, pats dažniausias scenarijus – paskyros vagystė. Įsivaizduokite, kad jūsų pokalbių istorijoje saugomos sutartys, klientų duomenys ar asmeninės detalės. Jei įsilaužėlis perima jūsų paskyrą, jis gauna ne šiaip prisijungimą, o visą jūsų jautrios informacijos archyvą vienoje vietoje.
Trečia – organizacinė ir teisinė atsakomybė. Darbuotojas, įkėlęs konfidencialią informaciją į nepatvirtintą DI įrankį, rizikuoja ne tik savo reputacija, bet ir gali pažeisti vidaus taisykles, klientų sutartis ar net duomenų apsaugos įstatymus. Tai gali baigtis ne tik drausminėmis nuobaudomis, bet ir rimtomis finansinėmis pretenzijomis įmonei.
Ketvirta – konkurencinio pranašumo praradimas. Jei į DI sistemą keliate neskelbtas strategijas ar unikalų kodą, jūs tiesiog atiduodate savo „intelektinį turtą“ į svetimas rankas.
Mano pagrindinis patarimas pabaigai: DI yra nuostabus įrankis, tačiau jautriems duomenims turi būti naudojami tik tie sprendimai, kurių saugumo taisyklės yra aiškiai apibrėžtos sutartimis. Jei dvejojate – geriau nekelkite. Saugumas šiame skaitmeniniame amžiuje prasideda nuo mūsų gebėjimo laiku sustoti.“
