Home-theater-designers
Chatboty existujú už roky, ale vzostup veľkých jazykových modelov, ako sú ChatGPT a Google Bard, dal priemyslu chatbotov nový život.
Milióny ľudí teraz používajú AI chatboty na celom svete, ale ak chcete vyskúšať jeden z týchto nástrojov, existujú niektoré dôležité riziká a obavy týkajúce sa ochrany súkromia.
1. Zber údajov
Väčšina ľudí nepoužíva chatboty len na to, aby pozdravili. Moderné chatboty sú navrhnuté tak, aby spracovávali komplexné otázky a požiadavky a odpovedali na ne, pričom používatelia do svojich výziev často zahŕňajú množstvo informácií. Aj keď sa pýtate len na jednoduchú otázku, v skutočnosti nechcete, aby presahovala rámec vašej konverzácie.
Podľa Sekcia podpory OpenAI , môžete vymazať chatové denníky ChatGPT kedykoľvek budete chcieť a tieto denníky budú potom natrvalo odstránené zo systémov OpenAI po 30 dňoch. Spoločnosť si však ponechá a skontroluje určité denníky rozhovorov, ak boli označené za škodlivý alebo nevhodný obsah.
Ďalší populárny chatbot AI, Claude, tiež sleduje vaše predchádzajúce konverzácie. Podporné centrum spoločnosti Antropic uvádza, že Claude sleduje „vaše výzvy a výstupy v produkte, aby vám v priebehu času poskytol konzistentnú skúsenosť s produktom v súlade s vašimi ovládacími prvkami“. Môžete vymazať svoje konverzácie s Claudom, takže zabudne, o čom ste hovorili, ale to neznamená, že Anthropic okamžite vymaže vaše záznamy zo svojich systémov.
To, samozrejme, vyvoláva otázku: uchovávajú sa moje údaje alebo nie? Používa ChatGPT alebo iné chatboty moje údaje?
Ale obavy tu nekončia.
môžeš zistiť, či ťa niekto vygooglil
Ako sa ChatGPT učí?
Na poskytovanie informácií sa veľké jazykové modely trénujú s obrovským množstvom údajov. Podľa Vedecké zameranie Samotný ChatGPT-4 dostal počas tréningového obdobia 300 miliárd slov informácií. Toto nie je prevzaté priamo z niekoľkých encyklopédií. Vývojári chatbotov skôr využívajú množstvo informácií z internetu na trénovanie svojich modelov. To môže zahŕňať údaje z kníh, filmov, článkov, záznamov na Wikipédii, blogových príspevkov, komentárov a dokonca aj webových stránok s recenziami.
Majte na pamäti, že v závislosti od zásad ochrany osobných údajov vývojára chatbotov sa niektoré z vyššie uvedených zdrojov nemusia pri školení použiť.
Mnohí kritizovali ChatGPT a tvrdili, že je to niečo ako nočná mora, pokiaľ ide o súkromie ChatGPT nemožno dôverovať . Prečo je to tak?
Tu sa veci trochu rozmazávajú. Ak sa priamo spýtate ChatGPT-3.5, či má prístup k recenziám produktov alebo komentárom k článkom, dostanete jednoznačné negatívum. Ako môžete vidieť na snímke obrazovky nižšie, GPT-3.5 uvádza, že jej počas školenia nebol umožnený prístup k komentárom k užívateľským článkom alebo recenziám produktov.
Skôr sa trénovalo pomocou „rozmanitého rozsahu textu z internetu vrátane webových stránok, kníh, článkov a iného verejne dostupného písomného materiálu až do septembra 2021“.
Je to však rovnaký prípad aj pre GPT-4?
Keď sme sa spýtali GPT-4, bolo nám povedané, že „OpenAI nepoužil konkrétne recenzie používateľov, osobné údaje ani komentáre k článku“ počas tréningového obdobia chatbota. Okrem toho nám GPT-4 povedal, že jeho odpovede sú generované zo „vzorov v údajoch, na ktorých [to] bolo trénované, ktoré pozostávajú predovšetkým z kníh, článkov a iného textu z internetu.
ako vytvoriť vývojový diagram v programe excel
Keď sme ďalej skúmali, GPT-4 tvrdil, že určitý obsah sociálnych médií môže byť skutočne zahrnutý do jeho tréningových údajov, ale tvorcovia zostanú vždy anonymní. GPT-4 konkrétne uviedol, že „Aj keď bol obsah z platforiem ako Reddit súčasťou tréningových údajov, [nemá] prístup ku konkrétnym komentárom, príspevkom alebo akýmkoľvek údajom, ktoré možno prepojiť späť s individuálnym používateľom.“
Ďalšia pozoruhodná časť odpovede GPT-4 je nasledovná: „OpenAI explicitne neuvádza všetky použité zdroje údajov.“ Samozrejme, pre OpenAI by bolo ťažké uviesť zdroje v hodnote 300 miliárd slov, ale to ponecháva priestor na špekulácie.
V an Článok Ars Technica , bolo uvedené, že ChatGPT zhromažďuje „osobné informácie získané bez súhlasu“. V tom istom článku bola spomenutá kontextová integrita, koncept, ktorý sa vzťahuje na používanie niečích informácií iba v kontexte, v ktorom boli pôvodne použité. Ak ChatGPT poruší túto kontextovú integritu, môžu byť ohrozené údaje ľudí.
Ďalším bodom záujmu je súlad OpenAI s Všeobecné nariadenie o ochrane údajov (GDPR) . Ide o nariadenie, ktoré presadzuje Európska únia s cieľom chrániť údaje občanov. Rôzne európske krajiny, vrátane Talianska a Poľska, začali vyšetrovanie ChatGPT kvôli obavám z dodržiavania GDPR. Na krátky čas bol ChatGPT dokonca zakázaný v Taliansku kvôli obavám o súkromie.
OpenAI v minulosti hrozilo, že sa stiahne z EÚ kvôli plánovaným reguláciám AI, ale to bolo odvtedy stiahnuté.
ChatGPT môže byť dnes najväčším chatbotom AI, ale problémy s ochranou súkromia chatbota nezačínajú a nekončia u tohto poskytovateľa. Ak používate nejasného chatbota s nevýraznými zásadami ochrany osobných údajov, vaše konverzácie môžu byť zneužité alebo môžu byť v jeho tréningových údajoch použité veľmi citlivé informácie.
2. Krádež údajov
Ako každý online nástroj alebo platforma, aj chatboty sú zraniteľné voči počítačovej kriminalite. Aj keby chatbot urobil všetko, čo mohol, aby ochránil používateľov a ich údaje, vždy existuje šanca, že sa dôvtipnému hackerovi podarí preniknúť do jeho interných systémov.
Ak daná služba chatbot uchovávala vaše citlivé informácie, ako sú platobné údaje za prémiové predplatné, kontaktné údaje a podobne, v prípade kybernetického útoku by to mohlo byť odcudzené a zneužité.
Platí to najmä vtedy, ak používate menej bezpečného chatbota, ktorého vývojári neinvestovali do primeranej bezpečnostnej ochrany. Nielenže môžu byť napadnuté interné systémy spoločnosti, ale váš vlastný účet má šancu byť napadnutý, ak nemá upozornenia na prihlásenie alebo overovaciu vrstvu.
Teraz, keď sú chatboty s umelou inteligenciou také populárne, počítačoví zločinci prirodzene začali využívať toto odvetvie na svoje podvody. Falošné webové stránky a doplnky ChatGPT boli veľkým problémom, odkedy sa chatbot OpenAI dostal do hlavného prúdu koncom roka 2022, pričom ľudia prepadli podvodom a rozdávali osobné informácie pod rúškom legitimity a dôvery.
V marci 2023 MUO informovalo o a falošné rozšírenie ChatGPT pre Chrome, ktoré kradne prihlásenia na Facebook . Doplnok by mohol využiť zadné vrátka Facebooku na hackovanie vysokoprofilových účtov a ukradnutie súborov cookie používateľov. Toto je len jeden príklad z mnohých falošných služieb ChatGPT navrhnutých na klamanie obetí, ktoré nevedia.
3. Malvérová infekcia
Ak používate temného chatbota bez toho, aby ste si to uvedomovali, možno zistíte, že vám chatbot poskytuje odkazy na škodlivé webové stránky. Možno vás chatbot upozornil na lákavý darček alebo poskytol zdroj jedného zo svojich vyhlásení. Ak majú prevádzkovatelia služby nezákonné úmysly, celým cieľom platformy môže byť šírenie škodlivého softvéru a podvodov prostredníctvom škodlivých odkazov.
Prípadne môžu hackeri kompromitovať legitímnu službu chatbota a použiť ju na šírenie škodlivého softvéru. Ak je tento chatbot náhodou veľmi veľa ľudí, potom tisíce alebo dokonca milióny používateľov budú vystavené tomuto škodlivému softvéru. Falošné aplikácie ChatGPT sa dokonca objavili v obchode Apple App Store , preto je najlepšie našľapovať opatrne.
ako sa odhlásiť z kindle neobmedzene
Vo všeobecnosti by ste nikdy nemali klikať na odkazy, ktoré vám chatbot poskytne jeho spustením cez webovú stránku na kontrolu odkazov . Môže sa to zdať dráždivé, ale vždy je najlepšie uistiť sa, že stránka, na ktorú ste presmerovaní, nemá škodlivý dizajn.
Okrem toho by ste nikdy nemali inštalovať žiadne doplnky a rozšírenia chatbotov bez toho, aby ste si najprv overili ich legitimitu. Urobte si malý prieskum aplikácie, aby ste zistili, či bola dobre skontrolovaná, a tiež spustite vyhľadávanie vývojára aplikácie, aby ste zistili, či nenájdete niečo tienisté.
Chatboty nie sú odolné voči problémom s ochranou súkromia
Ako väčšina online nástrojov v súčasnosti, aj chatboty boli opakovane kritizované za ich možné úskalia v oblasti bezpečnosti a ochrany osobných údajov. Či už ide o poskytovateľa chatbotov, ktorý obmedzuje bezpečnosť používateľov, alebo pretrvávajúce riziká kybernetických útokov a podvodov, je dôležité, aby ste vedeli, čo od vás vaša služba chatbota zhromažďuje a či používa primerané bezpečnostné opatrenia.