Com ja esmentem en el nostre article sobre Intel.ligència Artificial: ¿amiga o enemiga? està canviant la forma en què vivim i treballem. En els últims anys s’ha produït una explosió del sector i són grans els avanços que s’han generat en el sector tecnològic que han permés l’aparició de noves eines basades en aquest sistema.
Fem ús de la IA en la nostra vida quotidiana sense ser-ne conscients. La IA és present en assistents virtuals, cases intel·ligents, assistents de veu o xarxes socials i en la majoria dels àmbits: sanitari, educatiu, empresarial, econòmic, cultural, turístic, publicitari i generació de contingut, entre altres.
Alguns dels casos d’ús que més estan fent parlar estan relacionats amb la generació d’imatge, text, vídeo, productes, estils i composicions musicals. En aquest article ens centrarem en ChatGPT.
Què és ChatGPT?
La pròpia eina es descriu com: “ChatGPT és una abreviatura que es refereix a ‘Chat-based Language Model for Generating Responses’ (model de llenguatge basat en xat per a generar respostes). És una variant del model de llenguatge GPT (Generative Pre-trained Transformer) desenvolupat per OpenAI. GPT és un model d’intel·ligència artificial dissenyat per a generar un text coherent i contextualment rellevant en resposta a una entrada de text”.
“El ChatGPT, -contínua- està específicament dissenyat per a tasques de conversa i diàleg, com respondre preguntes, donar assistència, mantindre converses i generar respostes en un format de xat. Ha sigut entrenat amb una àmplia gamma de dades de text per a aprendre patrons lingüístics i contextuals, la qual cosa li permet generar respostes adequades en diferents situacions de conversa”.
Usos correctes de ChatGPT
Entre els usos correctes de ChatGPT podem trobar exemples en els quals l’eina ofereix ajuda per a la generació d’informació i de respostes, millorar l’eficiència, l’aprenentatge i l’experiència d’usuari.
- Atenció al client. ChatGPT pot utilitzar-se com un assistent de veu per a proporcionar respostes ràpides i precises a preguntes comunes dels clients i proporcionant informació sobre productes i serveis.
- Ensenyament. Els estudiants poden trobar en aquesta eina un assistent virtual que els responga a preguntes sobre conceptes difícils o els proporcione explicacions detallades en un format de conversa.
- Creació de contingut. Per a agilitzar el procés de documentació, periodistes, escriptors o generadors de contingut poden usar ChatGPT per a generar idees, dur a terme investigacions bàsiques o rebre suggeriments de redacció per a explotar, tot seguit, el seu cantó creatiu.
- Jocs i entreteniment. Un altre dels usos d’aquesta IA és crear diàlegs més realistes entre els personatges d’un joc per a enriquir l’experiència dels usuaris.
- Aprendre idiomes. Utilitzar ChatGPT per a practicar i millorar habilitats en un idioma estranger, proporcionant un entorn de conversa interactiu que simula una interacció amb un parlant natiu.
Usos incorrectes de ChatGPT
A ningú se li escapa que ChatGPT és una eina poderosa, per la qual cosa el seu ús ha de ser acurat, ètic i amb sentit comú. Establir límits i supervisar, detalladament, la informació proporcionada per aquesta eina és fonamental per a evitar conseqüències negatives tant a nivell laboral com personal. A partir d’ací, veurem usos incorrectes i equivocats de ChatGPT que convé evitar tant sí com no:
- Desinformació. L’ús de manera irresponsable ChatGPT és un dels riscos més alts perquè pot generar articles o notícies falses amb el propòsit d’enganyar els lectors o difondre informació errònia creant la desinformació dels ciutadans i els usuaris en general.
- Contingut inapropiat o ofensiu. Si no establim filtres adequats o realitzem preguntes ambigües, pot portar al fet que l’eina genere contingut ofensiu, discriminatori o inapropiat en contra de col·lectius i determinats sectors.
- Generació de missatges de contingut brossa o correus electrònics no desitjats en massa amb finalitats publicitàries o per a la realització activitats fraudulentes.
- Campanyes d’enginyeria social. ChatGPT podria utilitzar-se per a la generació de missatges convincents amb l’objectiu de manipular o enganyar les persones, ja siga per a obtindre informació confidencial o realitzar accions malicioses relacionades amb la ciberseguretat com poden ser les campanyes de pesca o pesca per SMS que pertanyen a l’àmbit de l’enginyeria social.
- Diagnòstics relacionats amb la salut o altres sectors. Utilitzar ChatGPT com si fora un professional i deixar de recórrer a aquests en matèries relacionades amb l’atenció mèdica, assessorament psicològic, recomanacions legals o la presa de decisions importants comporta un gran perill per a l’usuari.
Atesos aquests usos, cal ressaltar que la utilització de ChatGPT, de manera indeguda, incorrecta o irresponsable pot implicar conseqüències negatives perquè minva els drets i la privacitat dels altres, per la qual cosa recomanem que utilitzeu l’eina de manera ètica i responsable pel bé de la societat en general i que sigueu conscients que està en fase experimental.
Set recomanacions per a utilitzar ChatGPT
Si ChatGPT et desperta l’interés i vols interactuar amb l’eina, t’animem a fer-ho i et proporcionem algunes recomanacions per a traure-li el màxim partit amb seguretat:
- Sigues conscient de la privacitat. Evita compartir informació personal sensible o confidencial en converses amb ChatGPT tant pròpia com de tercers. Per a fer-ho, assegura’t que comprens les polítiques de privacitat i els termes d’ús de la plataforma en la qual estàs interactuant amb el model de llenguatge.
- Verifica la informació. Recorda que ChatGPT és un model de llenguatge basat en dades prèvies i pot generar respostes no verificades. Contrasta i verifica sempre la informació amb fonts autoritzades, de rellevància i fiables. Recorda que la IA està en fase experimental i els resultats poden modificar-se d’un dia per a l’altre.
- Utilitza un llenguatge clar i concís. Per a obtindre respostes més precises, pregunta de manera clara i concisa. Si fas preguntes ambigües o mal formulades, l’eina pot generar respostes confuses i imprecises.
- Posa-hi el sentit comú. Sigues crític amb les respostes proporcionades per ChatGPT. Utilitza el teu judici i pensament crític per a avaluar la validesa i rellevància de la informació generada.
- Utilitza ChatGPT com una eina complementària o una font d’informació més de manera similar a les cerques quotidianes que es fan en cercadors web com Google, Bing o similars. No depengues exclusivament de les respostes generades per ChatGPT, sinó que recorre a altres fonts i recursos per a obtindre una visió més completa del que busques.
- Atés el debat sobre la propietat intel·lectual del material generat mitjançant IA, utilitza la informació proporcionada per ChartGPT com a font d’informació, i no per al plagi o la substitució del treball personal.
- Comunica el contingut inapropiat o problemàtic: Si en una de les interaccions amb l’eina trobes contingut ofensiu, enganyós o inapropiat, el més oportú és que informes sobre això als responsables de la plataforma o del servei perquè prenguen les mesures adequades.
Com pots observar, són molts els beneficis que pots aconseguir amb ChatGPT, però cal ser conscient dels riscos que comporta el mal ús, per la qual cosa us recomanem fer-ho de manera segura i correcta.
Descarrega’t la nostra infografia sobre usos correctes, incorrectes i recomanacions sobre ChatGPT al següent enllaç.
Recorda que pots contactar amb CSIRT-CV a través del formulari de contacte i seguir els nostres consells a través del web concienciaT i les xarxes socials de Facebook i Twitter.
ConcienciaT més
CSIRT-CV promou la campanya de conscienciació STOP FAKE NEWS! amb consells per a identificar i frenar les campanyes de desinformació i les notícies falses.