Inteligencia Artificial: ¿amiga o enemiga?

La Inteligencia Artificial (IA) es una herramienta poderosa que puede mejorar la eficiencia y la productividad de la sociedad en general, de empresas y organizaciones. A medida que la IA continúa avanzando, se vislumbra un futuro lleno de oportunidades y desafíos. Desde la automatización de tareas tediosas y repetitivas hasta la creación de nuevas formas de arte y entretenimiento. La IA está cambiando la forma en que vivimos y trabajamos. Al mismo tiempo, se plantean importantes preguntas éticas y de seguridad en torno a la creación de sistemas inteligentes y autónomos, que deben ser abordadas de manera cuidadosa.

Como consecuencia de esta explosión del sector de la IA en los últimos años, la población se encuentra todavía en estado de shock, y aunque la tecnología ya empieza a calar en algunos ámbitos de nuestras vidas, todavía no nos hemos adaptado a este nuevo paradigma. Queda mucho camino por recorrer y por aprender para hacer realidad las ventajas que la IA aporta a la sociedad y reducir los riesgos que conlleva.

¿Qué es la IA?, ¿Qué herramientas utilizan la IA?, ¿Cuánto puede influir en nuestras vidas?, sigue leyendo a continuación.

¿Qué es la Inteligencia Artificial?

La Comisión Europea define la Inteligencia Artificial como “la habilidad de una máquina para imitar las mismas capacidades que los seres humanos como son el razonamiento, el aprendizaje, la creatividad o la capacidad de planear”.

En este sentido, la IA permite que los sistemas tecnológicos perciban su entorno, se relacionen con él, resuelvan problemas y actúen con un fin específico. La máquina recibe datos (ya preparados o recopilados a través de sus propios sensores, por ejemplo, una cámara), los procesa y responde a ellos.

El objetivo de la inteligencia artificial es desarrollar sistemas que puedan realizar tareas complejas, como reconocimiento de voz, comprensión del lenguaje natural o traducción automática, entre otros. Estos sistemas utilizan algoritmos y modelos matemáticos para procesar grandes cantidades de datos, aprender de ellos y generar respuestas o acciones adecuadas.

Si nos adentramos un poco más en la materia, podemos puntualizar que en la inteligencia artificial hay varios subcampos basados en tecnologías como el Machine Learning (aprendizaje automático) y el Deep Learning (aprendizaje profundo) cuyos fines son construir sistemas con la capacidad de resolver problemas sin la intervención de un humano.

La mayoría de las veces no somos conscientes de que estamos utilizando inteligencia artificial porque es un proceso o técnica que hemos normalizado e incorporado en muchas de nuestras acciones diarias y habituales. Por ejemplo, cuando usamos filtros en las redes sociales, desbloqueamos nuestro smartphone con la huella dactilar (TouchID) o mediante el escaneo de nuestra cara (FaceID). A la hora de buscar imágenes en Internet o cuando recibimos recomendaciones de contenido o de productos personalizados, estamos haciendo uso de la IA.

Tipos de IA

La Comisión Europea establece varios tipos de inteligencia artificial y entre ellos podemos encontrar dos:

• Software: asistentes virtuales, software de análisis de imágenes, motores de búsqueda, sistemas de reconocimiento de voz y rostro.
• Inteligencia artificial integrada: robots, drones, vehículos autónomos, Internet de las Cosas.

¿Por qué han sido posibles los avances en la IA?

Pese a que la inteligencia artificial lleva varias décadas entre nosotros, en los últimos años se han producido grandes avances en este sector gracias a los progresos en la informática, la disponibilidad de enormes cantidades de datos y la generación de nuevos algoritmos.

Para que la inteligencia artificial se desarrolle adecuadamente, es necesario que sus algoritmos sean entrenados con datos de calidad y que estén disponibles. Diversas directrices de ámbito estatal y europeo como la Estrategia Nacional de Inteligencia Artificial, el Reglamento Europeo sobre Inteligencia Artificial o el Libro Blanco sobre Inteligencia Artificial reflejan esta cuestión.

¿Dónde encontramos IA?

A continuación, os mostramos algunos casos en los que se usa inteligencia artificial que quizás desconocías o no te has parado a pensar.

• Compras por internet y publicidad. La IA se utiliza para crear recomendaciones personalizadas a los consumidores basadas en sus búsquedas o compras previas.
• Traducciones automáticas. Los programas de traducción de idiomas, tanto oral como escrito, recurren a la inteligencia artificial para realizar las traducciones. La IA también está presente en los subtítulos automáticos.
• Búsqueda de información. Los motores de búsqueda aprenden de la gran cantidad de datos que proporcionan sus usuarios para ofrecer resultados de búsqueda relevantes.
• Casas, ciudades e infraestructuras inteligentes. Los termostatos inteligentes nos ayudan a ahorrar energía y reducir la factura de la luz gracias a los patrones de comportamiento. Por su parte, en las ciudades inteligentes esperan poder regular el tráfico para mejorar la conectividad y reducir los atascos.
• Asistentes personales digitales. Los smartphones usan la IA en los asistentes virtuales que responden a preguntas, dan recomendaciones y organizan las rutinas de sus usuarios.
• Vehículos. La navegación está basada en la IA, y aunque los vehículos de conducción autónoma no están generalizados, sí que utilizan funciones de la inteligencia artificial por ejemplo en el sistema de asistencia VI-DAS, que detecta situaciones peligrosas y accidentes.
• Ciberseguridad. Los sistemas de inteligencia artificial pueden contribuir a detectar y mitigar ciberataques y otras amenazas en línea basándose en los datos que reciben continuamente, reconociendo patrones e impidiendo los ataques, así como la piratería y el phishing.
• Lucha contra la desinformación. Algunas aplicaciones de IA son capaces de detectar noticias falsas centrando su búsqueda en palabras alarmistas y sensacionalistas e identificando las fuentes confiables.
• Ganadería. Muchos granjeros se sirven de la inteligencia artificial para controlar el movimiento, la temperatura y el consumo de alimentos de su ganado.

¿En qué sectores podríamos aplicar la IA?  

Algunos de los sectores en los que se podría implementar la inteligencia artificial para mejorar en efectividad y competitividad, y en los que ya se trabaja, son los siguientes:

• Transporte. En el sector ferroviario, la IA podría mejorar la seguridad, velocidad y eficiencia del tráfico minimizando la fricción de las ruedas, permitir la conducción autónoma y maximizar la velocidad.
• Manufacturas. El uso de robots, el mantenimiento de las máquinas para evitar averías o la automatización de tareas puede ayudar a mejorar la eficiencia de las fábricas.
• Agricultura. El empleo de la IA puede ser utilizado para minimizar el uso de fertilizantes, pesticidas, el riego, mejorar la productividad y reducir el impacto medioambiental.
• Administración y servicios. Mediante la IA se podrían reducir los costes y ofrecer nuevas opciones en la educación, energía, transporte público, gestión de residuos, sostenibilidad, entre otros.
• Seguridad. La prevención del delito y la agilidad del sistema judicial serían dos de los aspectos a tratar por la IA. Gracias a ella, se podrían prevenir y predecir ataques terroristas en función del análisis de datos masivos o el crimen organizado, por ejemplo.

Ejemplos de herramientas de IA

Es evidente que la IA juega un papel fundamental en la transformación digital de la sociedad. A continuación, os mostramos algunos ejemplos recogidos por el Ministerio de Asuntos Económicos y Transformación Digital, que utilizan inteligencia artificial en diferentes campos donde esta habilidad permite lograr mejoras tanto en los procesos como en las aplicaciones o servicios:

• Salud: los investigadores estudian cómo usar la IA para analizar grandes cantidades de datos sobre la salud para encontrar patrones que podrían llevar a nuevos descubrimientos en la medicina y a otras formas de mejorar los diagnósticos individuales. La herramienta QMenta procesa y visualiza imágenes para realizar análisis de datos cerebrales.
• Economía: la herramienta Arbatro Tender está diseñada para encontrar y elegir los concursos públicos más adecuados para cada empresa. En este caso, la inteligencia artificial se utiliza para optimizar la gestión de licitaciones.
• Cultura: mediante el procesamiento del lenguaje natural, la IA permite generar textos propios y resúmenes de otros existentes. MarIA es la primera inteligencia artificial en castellano en lograrlo.
• Medio Ambiente: otra de las prestaciones de la IA es realizar una gestión más eficiente, por ejemplo, de los bosques. Forecastes un ejemplo de ello.
• Publicidad y redacción de contenidos: ChatGPT es una de las herramientas de inteligencia artificial más conocidas y novedosas que permite desarrollar textos a partir de peticiones concretas. Para más información, puedes leer nuestro artículo aquí.
• Turismo: la IA permite el desarrollo de asistentes turísticos virtuales como Castilla y León Gurú, que presenta funciones avanzadas de PLN, detección de puntos de interés en imágenes y uso de contexto geolocalizado.

En muchos casos se combinan la inteligencia artificial y los datos abiertos para contribuir al progreso y bienestar de la sociedad.

Recomendaciones IA

1. Cuida tus datos personales. Presta atención a la información y contenidos que compartes con herramientas de inteligencia artificial para evitar problemas de información confidencial o personal.
2. Inspírate en las respuestas de la IA, pero crea las tuyas propias. Las herramientas de IA pueden servirte como inspiración o guía en algún tema que estés trabajando, estudiando o investigando, pero no son el método infalible. En ocasiones las respuestas facilitadas son incorrectas o proceden de fuentes poco contrastadas. Confiar ciegamente en los algoritmos es el mejor camino para la desinformación.
3. Deepfaces y deepvoice. Se usa la inteligencia artificial para crear contenido falso suplantando la identidad de las personas. Son básicamente de dos tipos: deepface(superponer el rostro de una persona en el de otra y falsificar sus gestos) y deepvoice (suplantación de la voz, creando discursos falsos). Esto quiere decir que cualquier vídeo o audio puede ser manipulado, no solo los textos escritos.
4. Riesgos sociales. Sé consciente de los riesgos sociales que implica la IA tanto en el ámbito laboral y personal relacionados con la ciberseguridad y la privacidad. Es conveniente regular y mejorar el tratamiento de los datos y, por ende, es necesario estar informado de estas políticas.
5. Prejuicios humanos. La IA es propensa a los prejuicios humanos dependiendo de las fuentes de información que ingiera durante su entrenamiento. Se debe tener en cuenta que es susceptible de asumir sesgos.
6. Cumplimiento de la normativa. Asegúrate de que cualquier uso de la tecnología de inteligencia artificial cumple con las leyes y regulaciones aplicables.
7. Desaprovechar las oportunidades que brinda la IA puede suponer la pérdida de ventaja competitiva, el estancamiento económico o menos posibilidades para los ciudadanos, mientras que un uso excesivo puede acarrear invertir en aplicaciones de IA inútiles o tareas que no la requieren como por ejemplo intentar explicar problemas sociales complejos a través de esta tecnología.

Para finalizar, simplemente matizar que la IA puede generar todo tipo de datos, incluidos código, imágenes, audio, texto, vídeos, simulaciones, objetos 3D, etc inspirándose en los datos existentes introducidos por los humanos y entrenando algoritmos. Ahora los humanos supervisan mientras las máquinas crean y los ciudadanos nos beneficiamos de las prestaciones de la IA siendo conscientes de los riesgos que puede acarrear.

Para ver una herramienta en concreto que usa inteligencia artificial, te invitamos a leer nuestro artículo ChatGPT: usos y recomendaciones.

ConcienciaT más

STOP fake news! con consejos para identificar y frenar las campañas de desinformación y noticias falsas.

Suplantación de identidad: No en mi nombre

¿Qué es ChatGPT?

La propia herramienta se describe como: “ChatGPT es una abreviatura que se refiere a ‘Chat-based Language Model for Generating Responses’ (Modelo de Lenguaje basado en Chat para Generar Respuestas). Es una variante del modelo de lenguaje GPT (Generative Pre-trained Transformer) desarrollado por OpenAI. GPT es un modelo de inteligencia artificial diseñado para generar texto coherente y contextualmente relevante en respuesta a una entrada de texto”.

“El ChatGPT, -continua- está específicamente diseñado para tareas de conversación y diálogo, como responder preguntas, brindar asistencia, mantener conversaciones y generar respuestas en un formato de chat. Ha sido entrenado con una amplia gama de datos de texto para aprender patrones lingüísticos y contextuales, lo que le permite generar respuestas adecuadas en diferentes situaciones de conversación”.

Usos correctos de ChatGPT

Entre los usos correctos de ChatGPT podemos encontrar ejemplos en los que la herramienta brinda ayuda para la generación de información y respuestas, mejorar la eficiencia, el aprendizaje y la experiencia de usuario.

• • Enseñanza. Los estudiantes pueden encontrar en esta herramienta un asistente virtual que les responda a preguntas sobre conceptos difíciles o les proporcione explicaciones detalladas en un formato de conversación.
  • Creación de contenido. Para agilizar el proceso de documentación, periodistas, escritores o generadores de contenido pueden usar ChatGPT para generar ideas, llevar a cabo investigaciones básicas o recibir sugerencias de redacción para explotar su lado creativo a continuación.
  • Juegos y entretenimiento. Otro de los usos de esta IA es crear diálogos más realistas entre los personajes de un juego para enriquecer la experiencia de los usuarios.
  • Aprender idiomas. Utilizar ChatGPT para practicar y mejorar habilidades en un idioma extranjero, proporcionando un entorno de conversación interactivo que simula una interacción con un hablante nativo.

Usos incorrectos de ChatGPT

A nadie se nos escapa que ChatGPT es una herramienta poderosa, por lo que su uso debe ser cuidadoso, ético y con sentido común. Establecer límites y supervisar, detalladamente, la información proporcionada por esta herramienta es fundamental para evitar consecuencias negativas tanto a nivel laboral como personal. A partir de aquí, veremos usos incorrectos y equivocados de ChatGPT que conviene evitar a toda costa:

• Desinformación. Utilizar de manera irresponsable ChatGPT es uno de los mayores riesgos, ya que puede crear artículos o noticias falsas con el propósito de engañar a los lectores o difundir información errónea creando la desinformación de los ciudadanos y usuarios en general.
• Contenido inapropiado u ofensivo. No establecer filtros adecuados o realizar preguntas ambiguas, puede llevar a que la herramienta genere contenido ofensivo, discriminatorio o inapropiado en contra de colectivos y determinados sectores.
• Generar mensajes spam o correos electrónicos no deseados en masa con fines publicitarios o para realizar actividades fraudulentas.
• Campañas de ingeniería social. ChatGPT podría utilizarse para la generación de mensajes convincentes con el objetivo de manipular o engañar a las personas, ya sea para obtener información confidencial o realizar acciones maliciosas relacionadas con la ciberseguridad, como pueden ser las campañas de phishing o smishing pertenecientes al ámbito de la ingeniería social.
• Diagnósticos relacionados con la salud u otros sectores. Utilizar ChatGPT como si de un profesional se tratara y dejar de recurrir a éstos en temas relacionados con atención médica, asesoramiento psicológico, recomendaciones legales o la toma de decisiones importantes, conlleva un gran peligro para el usuario.

Atendiendo a estos usos, cabe resaltar que utilizar ChatGPT de manera indebida, incorrecta o irresponsable puede acarrear consecuencias negativas al mermar los derechos y la privacidad de los demás, por lo que es recomendable utilizar la herramienta de manera ética y responsable por el bien de la sociedad en general y siendo consciente de que está en fase experimental.

Siete recomendaciones para usar ChatGPT

Si ChatGPT despierta tu interés y quieres interactuar con la herramienta, te animamos a ello y te proporcionamos algunas recomendaciones para sacarle el máximo partido a la herramienta con toda la seguridad:

• Sé consciente de la privacidad. Evita compartir información personal sensible o confidencial en conversaciones con ChatGPT tanto propia como de terceros. Para ello, asegúrate de comprender las políticas de privacidad y los términos de uso de la plataforma en la que estás interactuando con el modelo de lenguaje.
• Verifica la información. Recuerda que ChatGPT es un modelo de lenguaje basado en datos previos y puede generar respuestas no verificadas. Contrasta y verifica siempre la información con fuentes autorizadas, de relevancia y fiables. Recuerda que la IA está en fase experimental y sus resultados pueden modificarse de un día para otro.
• Utiliza un lenguaje claro y conciso. Para obtener respuestas más precisas, pregunta de forma clara y concisa. Si haces preguntas ambiguas o mal formuladas, la herramienta puede generar respuestas confusas e imprecisas.
• Usa el sentido común. Sé crítico con las respuestas proporcionadas por ChatGPT. Utiliza tu juicio y pensamiento crítico para evaluar la validez y relevancia de la información generada.
• Utiliza ChatGPT como una herramienta complementaria o una fuente de información más, de modo similar a las búsquedas cotidianas que se hacen en buscadores web como Google, Bing o similares. No dependas exclusivamente de las respuestas generadas por ChatGPT, sino que debes recurrir a otras fuentes y recursos para obtener una visión más completa de lo que buscas.
• Ante el debate acerca de la propiedad intelectual del material generado mediante IA, utiliza la información proporcionada por ChartGPT como fuente de información, y no para el plagio o sustitución del trabajo personal.
• Reporta el contenido inapropiado o problemático: Si en una de tus interacciones con la herramienta, encuentras contenido ofensivo, engañoso o inapropiado lo más oportuno es que informes sobre ello a los responsables de la plataforma o del servicio para que tomen las medidas adecuadas.

Como puedes observar, son muchos los beneficios que puedes conseguir con ChatGPT, pero es necesario ser consciente de los riesgos que conlleva un mal uso, por lo que os recomendamos hacerlo de forma segura y correcta.

Descárgate nuestra infografía sobre usos correctos, incorrectos y recomendaciones sobre ChatGPT en el siguiente enlace.

Recuerda que puedes contactar con CSIRT-CV a través del formulario de contacto y seguir nuestros consejos a través de la web concienciaT y las redes sociales de Facebook y Twitter.