La Intel·ligència Artificial (IA) és una eina poderosa que pot millorar l’eficiència i la productivitat de la societat en general, d’empreses i organitzacions. A mesura que la IA avança, s’albira un futur ple d’oportunitats i desafiaments. Des de l’automatització de tasques tedioses i repetitives fins a la creació de noves formes d’art i entreteniment. La IA està canviant la forma en què vivim i treballem. Al mateix temps, es plantegen importants preguntes ètiques i de seguretat entorn de la creació de sistemes intel·ligents i autònoms, que han de ser abordades de manera acurada.
A conseqüència d’aquesta explosió del sector de la IA en els últims anys, la població es troba encara en estat de xoc, i encara que la tecnologia ja comença a calar en alguns àmbits de les nostres vides, encara no ens hem adaptat a aquest nou paradigma. Queda molt de camí per recórrer i per aprendre, per a fer realitat els avantatges que la IA aporta a la societat i reduir els riscos que comporta.
Què és la IA?, Quines eines utilitzen la IA?, Quant pot influir en les nostres vides?, continua llegint.
Què és la intel·ligència artificial?
La Comissió Europea defineix la intel·ligència artificial com “l’habilitat d’una màquina per a imitar les mateixes capacitats que els éssers humans com són el raonament, l’aprenentatge, la creativitat o la capacitat de planejar”.
En aquest sentit, la IA permet que els sistemes tecnològics perceben el seu entorn, es relacionen amb aquest, resolen problemes i actuen amb una fi específica. La màquina rep dades (ja preparades o recopilades a través dels seus sensors, per exemple, una càmera), les processa i les respon.
L’objectiu de la intel·ligència artificial és desenvolupar sistemes que puguen fer tasques complexes, com a reconeixement de veu, comprensió del llenguatge natural o traducció automàtica, entre altres. Aquests sistemes utilitzen algorismes i models matemàtics per a processar grans quantitats de dades, aprendre d’aquestes i generar respostes o accions adequades.
Si ens endinsem una mica més en la matèria, podem puntualitzar que en la intel·ligència artificial hi ha diversos subcamps basats en tecnologies com el Machine Learning (aprenentatge automàtic) i el Deep Learning(aprenentatge profund) els fins dels quals són construir sistemes amb la capacitat de resoldre problemes sense la intervenció humana.
La majoria de les vegades no som conscients que utilitzem intel·ligència artificial perquè és un procés o tècnica que hem normalitzat i incorporat en moltes de les nostres accions diàries i habituals. Per exemple, quan usem filtres en les xarxes socials, desbloquegem el nostre telèfon intel·ligent amb l’empremta dactilar (TouchID) o mitjançant l’escaneig de la nostra cara (FaceID). A l’hora de buscar imatges en Internet o quan rebem recomanacions de contingut o de productes personalitzats, estem fent ús de la IA.
Tipus de IA
La Comissió Europea estableix diversos tipus d’intel·ligència artificial i entre aquests podem trobar dos:
- Programari: assistents virtuals, programari d’anàlisi d’imatges, motors de cerca, sistemes de reconeixement de veu i rostre.
- Intel·ligència artificial integrada: robots, drons, vehicles autònoms, Internet de les coses.
Per què han sigut possibles els avanços en la IA?
Malgrat que la intel·ligència artificial porta diverses dècades entre nosaltres, en els últims anys s’han produït grans avanços en aquest sector gràcies als progressos en la informàtica, la disponibilitat d’enormes quantitats de dades i la generació de nous algorismes.
Perquè la intel·ligència artificial es desenvolupe adequadament, és necessari que els seus algorismes siguen entrenats amb dades de qualitat i que estiguen disponibles. Diverses directrius d’àmbit estatal i europeu com la Estratègia Nacional d’Intel·ligència Artificial, el Reglament Europeu sobre Intel·ligència Artificial o el Llibre blanc sobre intel·ligència artificial reflecteixen aquesta qüestió.
On trobem IA?
A continuació, us mostrem alguns casos en els quals s’usa intel·ligència artificial que potser desconeixies o no t’has parat a pensar.
- Compres per Internet i publicitat. La IA s’utilitza per a crear recomanacions personalitzades als consumidors basades en les seues cerques o compres prèvies.
- Traduccions automàtiques. Els programes de traducció d’idiomes, tant oral com escrit, recorren a la intel·ligència artificial per a realitzar les traduccions. La IA també és present en els subtítols automàtics.
- Cerca d’informació. Els motors de cerca aprenen de la gran quantitat de dades que proporcionen els usuaris per a oferir resultats de cerca rellevants.
- Cases, ciutats i infraestructures intel·ligents. Els termòstats intel·ligents ens ajuden a estalviar energia i reduir la factura de la llum gràcies als patrons de comportament. Per part seua, a les ciutats intel·ligents esperen poder regular el trànsit per a millorar la connectivitat i reduir els embussos.
- Assistents personals digitals. Els telèfons intel·ligents usen la IA en els assistents virtuals que responen a preguntes, donen recomanacions i organitzen les rutines dels usuaris.
- Vehicles. La navegació està basada en la IA, i encara que els vehicles de conducció autònoma no estan generalitzats, sí que utilitzen funcions de la intel·ligència artificial per exemple en el sistema d’assistència VI-DA, que detecta situacions perilloses i accidents.
- Ciberseguretat. Els sistemes d’intel·ligència artificial poden contribuir a detectar i mitigar ciberatacs i altres amenaces en línia basant-se en les dades que reben contínuament, reconeixent patrons i impedint els atacs, així com la pirateria i la pesca (phishing).
- Lluita contra la desinformació. Algunes aplicacions de IA són capaces de detectar notícies falses centrant la seua cerca en paraules alarmistes i sensacionalistes i identificant les fonts de confiança.
- Ramaderia. Molts grangers se serveixen de la intel·ligència artificial per a controlar el moviment, la temperatura i el consum d’aliments del seu bestiar.
En quins sectors podríem aplicar la IA?
Alguns dels sectors en els quals es podria implementar la intel·ligència artificial per a millorar en efectivitat i competitivitat, i en els quals ja es treballa, són els següents:
- Transport. En el sector ferroviari, la IA podria millorar la seguretat, velocitat i eficiència del trànsit minimitzant la fricció de les rodes, permetre la conducció autònoma i maximitzar la velocitat.
- Manufactures. L’ús de robots, el manteniment de les màquines per a evitar avaries o l’automatització de tasques pot ajudar a millorar l’eficiència de les fàbriques.
- Agricultura. L’ús de la IA pot ser utilitzat per a minimitzar l’ús de fertilitzants, pesticides, el reg, millorar la productivitat i reduir l’impacte mediambiental.
- Administració i serveis. Mitjançant la IA es podrien reduir els costos i oferir noves opcions en l’educació, energia, transport públic, gestió de residus, sostenibilitat, entre altres.
- Seguretat. La prevenció del delicte i l’agilitat del sistema judicial serien dos dels aspectes a tractar per la IA. Gràcies a aquesta, es podrien previndre i predir atacs terroristes en funció de l’anàlisi de dades massives o el crim organitzat, per exemple.
Exemples d’eines de IA
És evident que la IA juga un paper fonamental en la transformació digital de la societat. A continuació, us vam mostrar alguns exemples recollits pel Ministeri d’Assumptes Econòmics i Transformació Digital, que utilitzen intel·ligència artificial en diferents camps on aquesta habilitat permet aconseguir millores tant en els processos com en les aplicacions o serveis:
- Salut: els investigadors estudien com usar la IA per a analitzar grans quantitats de dades sobre la salut per a trobar patrons que podrien portar a nous descobriments en la medicina i a altres maneres de millorar els diagnòstics individuals. L’eina QMenta processa i visualitza imatges per a realitzar anàlisis de dades cerebrals.
- Economia: l’eina Arbatro Tender està dissenyada per a trobar i triar els concursos públics més adequats per a cada empresa. En aquest cas, la intel·ligència artificial s’utilitza per a optimitzar la gestió de licitacions.
- Cultura: mitjançant el processament del llenguatge natural, la IA permet generar textos propis i resums d’altres existents. MarIA és la primera intel·ligència artificial en castellà a aconseguir-ho.
- Medi ambient: una altra de les prestacions de la IA és realitzar una gestió més eficient, per exemple, dels boscos. Forecast és un exemple d’això.
- Publicitat i redacció de continguts: ChatGPT és una de les eines d’intel·ligència artificial més conegudes i noves que permet desenvolupar textos a partir de peticions concretes. Per a més informació, pots llegir el nostre artícle açí.
- Turisme: la IA permet el desenvolupament d’assistents turístics virtuals com Castilla i León Gurú, que presenta funcions avançades de PLN, detecció de punts d’interés en imatges i ús de context geolocalitzat.
En molts casos es combinen la intel·ligència artificial i les dades obertes per a contribuir al progrés i benestar de la societat.
Recomanacions IA
- Cuida les teues dades personals. Para atenció a la informació i continguts que comparteixes amb eines d’intel·ligència artificial per a evitar problemes d’informació confidencial o personal.
- Inspira’t en les respostes de la IA, però crea les teues pròpies. Les eines de IA poden servir-te com a inspiració o guia en algun tema que estigues treballant, estudiant o investigant, però no són el mètode infal·lible. A vegades les respostes facilitades són incorrectes o procedeixen de fonts poc contrastades. Confiar cegament en els algorismes és el millor camí per a la desinformació.
- Deepface i deepvoice. S’usa la intel·ligència artificial per a crear contingut fals suplantant la identitat de les persones. Són bàsicament de dos tipus: deepface (superposar el rostre d’una persona en el d’una altra i falsificar els seus gestos) i deepvoice (suplantació de la veu, creant discursos falsos). Això vol dir que qualsevol vídeo o àudio pot ser manipulat, no sols els textos escrits.
- Riscos socials. Sigues conscient dels riscos socials que implica la IA tant en l’àmbit laboral i personal relacionats amb la ciberseguretat i la privacitat. És convenient regular i millorar el tractament de les dades i, per tant, és necessari estar informat d’aquestes polítiques.
- Prejudicis humans. La IA és propensa als prejudicis humans depenent de les fonts d’informació que ingerisca durant el seu entrenament. S’ha de tindre en compte que és susceptible d’assumir biaixos.
- Compliment de la normativa. Assegura’t que qualsevol ús de la tecnologia d’intel·ligència artificial compleix amb les lleis i regulacions aplicables.
- Infrautilització o ús excessiu de la IA. Desaprofitar les oportunitats que brinda la IA pot suposar la pèrdua d’avantatge competitiu, l’estancament econòmic o menys possibilitats per als ciutadans, mentre que un ús excessiu pot implicar invertir en aplicacions de la IA inútils o tasques que no la requereixen com per exemple intentar explicar problemes socials complexos a través d’aquesta tecnologia.
Per a finalitzar, simplement matisar que la IA pot generar tot tipus de dades, incloses codi, imatges, àudio, text, vídeos, simulacions, objectes 3D, etc., s’inspira en les dades existents introduïdes pels humans i entrenant algorismes. Ara els humans supervisen mentre les màquines creen i els ciutadans ens beneficiem de les prestacions de la IA i som conscients dels riscos que pot implicar.
Per veure una eina amb intel.ligència artificial, t’invitem a llegir el nostre article ChatGPT: usos y recomanacions.
ConcienciaT més
STOPfake news! amb consells per a identificar i frenar les campanyes de desinformació i les notícies falses.
Suplantació d’identitat: No en el meu nom
ChatGPT: usos i recomanacions
Com ja esmentem en el nostre article sobre Intel.ligència Artificial: ¿amiga o enemiga? està canviant la forma en què vivim i treballem. En els últims anys s’ha produït una explosió del sector i són grans els avanços que s’han generat en el sector tecnològic que han permés l’aparició de noves eines basades en aquest sistema.
Fem ús de la IA en la nostra vida quotidiana sense ser-ne conscients. La IA és present en assistents virtuals, cases intel·ligents, assistents de veu o xarxes socials i en la majoria dels àmbits: sanitari, educatiu, empresarial, econòmic, cultural, turístic, publicitari i generació de contingut, entre altres.
Alguns dels casos d’ús que més estan fent parlar estan relacionats amb la generació d’imatge, text, vídeo, productes, estils i composicions musicals. En aquest article ens centrarem en ChatGPT.
Què és ChatGPT?
La pròpia eina es descriu com: “ChatGPT és una abreviatura que es refereix a ‘Chat-based Language Model for Generating Responses’ (model de llenguatge basat en xat per a generar respostes). És una variant del model de llenguatge GPT (Generative Pre-trained Transformer) desenvolupat per OpenAI. GPT és un model d’intel·ligència artificial dissenyat per a generar un text coherent i contextualment rellevant en resposta a una entrada de text”.
“El ChatGPT, -contínua- està específicament dissenyat per a tasques de conversa i diàleg, com respondre preguntes, donar assistència, mantindre converses i generar respostes en un format de xat. Ha sigut entrenat amb una àmplia gamma de dades de text per a aprendre patrons lingüístics i contextuals, la qual cosa li permet generar respostes adequades en diferents situacions de conversa”.
Usos correctes de ChatGPT
Entre els usos correctes de ChatGPT podem trobar exemples en els quals l’eina ofereix ajuda per a la generació d’informació i de respostes, millorar l’eficiència, l’aprenentatge i l’experiència d’usuari.
- Atenció al client. ChatGPT pot utilitzar-se com un assistent de veu per a proporcionar respostes ràpides i precises a preguntes comunes dels clients i proporcionant informació sobre productes i serveis.
- Ensenyament. Els estudiants poden trobar en aquesta eina un assistent virtual que els responga a preguntes sobre conceptes difícils o els proporcione explicacions detallades en un format de conversa.
- Creació de contingut. Per a agilitzar el procés de documentació, periodistes, escriptors o generadors de contingut poden usar ChatGPT per a generar idees, dur a terme investigacions bàsiques o rebre suggeriments de redacció per a explotar, tot seguit, el seu cantó creatiu.
- Jocs i entreteniment. Un altre dels usos d’aquesta IA és crear diàlegs més realistes entre els personatges d’un joc per a enriquir l’experiència dels usuaris.
- Aprendre idiomes. Utilitzar ChatGPT per a practicar i millorar habilitats en un idioma estranger, proporcionant un entorn de conversa interactiu que simula una interacció amb un parlant natiu.
Usos incorrectes de ChatGPT
A ningú se li escapa que ChatGPT és una eina poderosa, per la qual cosa el seu ús ha de ser acurat, ètic i amb sentit comú. Establir límits i supervisar, detalladament, la informació proporcionada per aquesta eina és fonamental per a evitar conseqüències negatives tant a nivell laboral com personal. A partir d’ací, veurem usos incorrectes i equivocats de ChatGPT que convé evitar tant sí com no:
- Desinformació. L’ús de manera irresponsable ChatGPT és un dels riscos més alts perquè pot generar articles o notícies falses amb el propòsit d’enganyar els lectors o difondre informació errònia creant la desinformació dels ciutadans i els usuaris en general.
- Contingut inapropiat o ofensiu. Si no establim filtres adequats o realitzem preguntes ambigües, pot portar al fet que l’eina genere contingut ofensiu, discriminatori o inapropiat en contra de col·lectius i determinats sectors.
- Generació de missatges de contingut brossa o correus electrònics no desitjats en massa amb finalitats publicitàries o per a la realització activitats fraudulentes.
- Campanyes d’enginyeria social. ChatGPT podria utilitzar-se per a la generació de missatges convincents amb l’objectiu de manipular o enganyar les persones, ja siga per a obtindre informació confidencial o realitzar accions malicioses relacionades amb la ciberseguretat com poden ser les campanyes de pesca o pesca per SMS que pertanyen a l’àmbit de l’enginyeria social.
- Diagnòstics relacionats amb la salut o altres sectors. Utilitzar ChatGPT com si fora un professional i deixar de recórrer a aquests en matèries relacionades amb l’atenció mèdica, assessorament psicològic, recomanacions legals o la presa de decisions importants comporta un gran perill per a l’usuari.
Atesos aquests usos, cal ressaltar que la utilització de ChatGPT, de manera indeguda, incorrecta o irresponsable pot implicar conseqüències negatives perquè minva els drets i la privacitat dels altres, per la qual cosa recomanem que utilitzeu l’eina de manera ètica i responsable pel bé de la societat en general i que sigueu conscients que està en fase experimental.
Set recomanacions per a utilitzar ChatGPT
Si ChatGPT et desperta l’interés i vols interactuar amb l’eina, t’animem a fer-ho i et proporcionem algunes recomanacions per a traure-li el màxim partit amb seguretat:
- Sigues conscient de la privacitat. Evita compartir informació personal sensible o confidencial en converses amb ChatGPT tant pròpia com de tercers. Per a fer-ho, assegura’t que comprens les polítiques de privacitat i els termes d’ús de la plataforma en la qual estàs interactuant amb el model de llenguatge.
- Verifica la informació. Recorda que ChatGPT és un model de llenguatge basat en dades prèvies i pot generar respostes no verificades. Contrasta i verifica sempre la informació amb fonts autoritzades, de rellevància i fiables. Recorda que la IA està en fase experimental i els resultats poden modificar-se d’un dia per a l’altre.
- Utilitza un llenguatge clar i concís. Per a obtindre respostes més precises, pregunta de manera clara i concisa. Si fas preguntes ambigües o mal formulades, l’eina pot generar respostes confuses i imprecises.
- Posa-hi el sentit comú. Sigues crític amb les respostes proporcionades per ChatGPT. Utilitza el teu judici i pensament crític per a avaluar la validesa i rellevància de la informació generada.
- Utilitza ChatGPT com una eina complementària o una font d’informació més de manera similar a les cerques quotidianes que es fan en cercadors web com Google, Bing o similars. No depengues exclusivament de les respostes generades per ChatGPT, sinó que recorre a altres fonts i recursos per a obtindre una visió més completa del que busques.
- Atés el debat sobre la propietat intel·lectual del material generat mitjançant IA, utilitza la informació proporcionada per ChartGPT com a font d’informació, i no per al plagi o la substitució del treball personal.
- Comunica el contingut inapropiat o problemàtic: Si en una de les interaccions amb l’eina trobes contingut ofensiu, enganyós o inapropiat, el més oportú és que informes sobre això als responsables de la plataforma o del servei perquè prenguen les mesures adequades.
Com pots observar, són molts els beneficis que pots aconseguir amb ChatGPT, però cal ser conscient dels riscos que comporta el mal ús, per la qual cosa us recomanem fer-ho de manera segura i correcta.
Descarrega’t la nostra infografia sobre usos correctes, incorrectes i recomanacions sobre ChatGPT al següent enllaç.
Recorda que pots contactar amb CSIRT-CV a través del formulari de contacte i seguir els nostres consells a través del web concienciaT i les xarxes socials de Facebook i Twitter.
ConcienciaT més
CSIRT-CV promou la campanya de conscienciació STOP FAKE NEWS! amb consells per a identificar i frenar les campanyes de desinformació i les notícies falses.