Una llamada con la voz de un familiar que pide dinero. Un currículum descartado por un filtro automático. Un contrato que cita una norma inexistente. Los peligros de la inteligencia artificial pueden aparecer en situaciones así, sin que resulte evidente dónde empezó el problema.
Estas herramientas permiten resolver tareas en menos tiempo, pero una respuesta convincente también puede contener errores. Antes de compartir información, aprobar un pago o aceptar una recomendación, conviene saber qué puede fallar y cómo comprobarlo. A continuación, revisamos diez riesgos, las medidas que ayudan a reducirlos y las consecuencias legales que deben considerar las personas y las empresas en Perú.
Te podría interesar: Ciberdelincuencia: qué es, tipos y prevenciones
¿Cuáles son los principales peligros de la inteligencia artificial?
Los principales peligros de la inteligencia artificial están relacionados con la discriminación, el uso indebido de datos, las estafas, los contenidos falsos, las respuestas incorrectas, los conflictos de propiedad intelectual, el desplazamiento laboral, la falta de transparencia, los fallos de sistemas autónomos y el consumo de recursos. Su gravedad depende del uso que se le dé a esta tecnología y de las personas que puedan verse afectadas.
La inteligencia artificial reúne tecnologías que permiten clasificar información, realizar predicciones o generar contenido a partir del análisis de patrones. Un error al sugerir una canción tiene consecuencias muy distintas a uno que interviene en un diagnóstico médico o en el acceso a un empleo. Por ello, los controles y medidas de seguridad deben adaptarse al tipo de tarea y al impacto que puede generar cada aplicación.
1. Sesgos y decisiones discriminatorias
Entre los peligros de la inteligencia artificial también se encuentra la posibilidad de generar decisiones discriminatorias. Un sistema puede repetir desigualdades presentes en los datos con los que fue desarrollado, pero también depende de las variables seleccionadas, el objetivo de la herramienta y la forma en que se utiliza. Contar con una gran cantidad de información no significa necesariamente que los datos representen de manera adecuada a todos los grupos de personas.
2. Uso indebido de datos personales
Subir un documento a una IA puede implicar entregar información a un proveedor externo. Ese archivo quizá incluya nombres, números de documento, datos de salud, firmas o conversaciones de clientes. La exposición también puede producirse mediante permisos excesivos o accesos que nadie revisa.
Entre los peligros de la inteligencia artificial está perder el control de esa información. Por ejemplo, un trabajador podría cargar una base de clientes para resumirla sin comprobar si la empresa autorizó esa herramienta. El tratamiento posterior depende del servicio, sus condiciones y su configuración; no todas las plataformas utilizan los datos de la misma manera.
- Comparte únicamente los datos necesarios para la tarea.
- Revisa quién puede acceder a ellos, cuánto tiempo se conservan y si se utilizan para entrenar modelos.
- Usa herramientas autorizadas y limita sus permisos sobre documentos y cuentas.
Antes de cargar información de terceros, una empresa puede recurrir a servicios legales para revisar las condiciones del proveedor, la finalidad del tratamiento y las obligaciones que corresponden.
3. Estafas y ciberataques más convincentes
Otro de los peligros de la inteligencia artificial es su uso para crear estafas y ataques más difíciles de detectar. La tecnología permite elaborar mensajes de suplantación, correos personalizados y voces sintéticas capaces de imitar a una persona. Por ello, antes de realizar pagos o compartir información sensible es importante verificar las solicitudes mediante canales confiables y aplicar validaciones adicionales en operaciones importantes.
Además, los sistemas de IA pueden ser objetivo de ataques como la inyección de instrucciones, donde contenido malicioso busca alterar su funcionamiento. Limitar accesos y supervisar acciones reduce estos riesgos. Si un caso involucra fraude, amenazas o acceso no autorizado a una cuenta, un abogado penalista puede evaluar los hechos, revisar las pruebas disponibles y orientar sobre las acciones correspondientes.
4. Deepfakes y manipulación de la información
Asimismo, uno de los peligros de la inteligencia artificial está relacionado con la creación de deepfakes y la manipulación de información. Un deepfake es un contenido audiovisual generado o modificado mediante tecnología que puede hacer parecer que una persona dijo o realizó algo que nunca ocurrió. Entre sus usos dañinos se encuentran las falsas declaraciones, la publicidad engañosa, la suplantación de identidad, el hostigamiento y la difusión de imágenes íntimas falsas.
Una grabación aparentemente real puede difundirse durante horas antes de que la persona afectada tenga conocimiento de ella. Esto puede generar daños en su reputación, relaciones personales e incluso en su seguridad. Por ello, antes de compartir este tipo de contenido es recomendable verificar su origen y contrastarlo con fuentes independientes. Si existe una afectación directa, conviene conservar evidencias como enlaces, cuentas involucradas, fechas y archivos disponibles, evitando modificar o ampliar la difusión del material mientras se solicita su revisión o retiro.
5. Respuestas falsas presentadas como correctas
Una IA generativa puede inventar una referencia, confundir fechas o atribuir una afirmación a alguien que nunca la hizo. Estas respuestas suelen llamarse alucinaciones. Pueden aparecer aunque la pregunta sea clara y el texto resulte coherente.
Imagina que utilizas una herramienta para preparar un contrato y esta menciona un artículo legal inexistente. El documento podría estar bien redactado y seguir siendo incorrecto. Los peligros de la inteligencia artificial aumentan cuando ese resultado pasa a un trámite, un informe o una decisión sin verificación.
Abre las fuentes citadas, confirma que existen y comprueba que respaldan la afirmación. En asuntos legales, también hay que revisar el país, la vigencia y el supuesto al que se aplica la norma. Pedir a la misma herramienta que confirme su respuesta no reemplaza una comprobación independiente.
6. Conflictos de derechos de autor y propiedad intelectual
Por otra parte, los peligros de la inteligencia artificial también abarcan los conflictos relacionados con la propiedad intelectual y el uso de contenidos protegidos. Un resultado generado con IA puede incorporar elementos de una obra registrada, reproducir un logotipo o utilizar la imagen de una persona. Que una herramienta permita descargar un archivo no significa necesariamente que su uso comercial esté autorizado.
Para evitar problemas, es importante diferenciar las condiciones del servicio, los derechos sobre los materiales utilizados como referencia y los posibles derechos de terceros sobre el resultado final. Además, debe protegerse la información propia, ya que subir código, estrategias o documentos confidenciales puede afectar obligaciones de privacidad. Antes de publicar una campaña o utilizar contenido generado con IA, conviene revisar recursos empleados, licencias y coincidencias relevantes. La OMPI analiza la relación entre inteligencia artificial y propiedad intelectual, aunque la respuesta legal dependerá del material involucrado, el uso específico y la normativa aplicable.
7. Desplazamiento laboral y dependencia de la tecnología
Del mismo modo, uno de los peligros de la inteligencia artificial está relacionado con el impacto que puede generar en el empleo y en la adaptación de los trabajadores. La automatización puede reducir la demanda de ciertas tareas y modificar las habilidades necesarias para determinados puestos. Quienes cuentan con menos acceso a capacitación pueden enfrentar mayores dificultades durante este proceso. Sin embargo, que una ocupación esté expuesta al uso de IA no significa necesariamente que vaya a desaparecer, ya que muchas funciones seguirán requiriendo criterio e intervención humana.
Según la OIT, en su estudio de 2025 sobre IA generativa y empleo, el cambio más probable en muchas ocupaciones será la transformación de tareas, más que su eliminación completa. Por ello, dentro de una empresa es importante identificar qué actividades pueden modificarse, preparar al equipo antes de implementar nuevas herramientas y mantener la capacidad de supervisar los resultados. Delegar completamente los procesos a un sistema puede dificultar la detección de errores y aumentar la dependencia del proveedor tecnológico.
8. Falta de transparencia y responsabilidades mal definidas
Asimismo, entre los peligros de la inteligencia artificial se encuentra la falta de transparencia en las decisiones automatizadas. Algunos sistemas entregan una puntuación o recomendación sin ofrecer una explicación clara sobre cómo llegaron a ese resultado. Esto puede impedir que una persona conozca qué datos fueron utilizados, si existía información incorrecta o qué mecanismo tiene disponible para cuestionar la decisión.
Esta situación adquiere mayor importancia cuando la IA interviene en el acceso a un empleo, un servicio o una oportunidad económica. Una explicación generada por el propio modelo no siempre garantiza que refleje de manera precisa el proceso que produjo la respuesta. Por ello, las organizaciones deben definir responsables, conservar registros relevantes y contar con mecanismos de revisión. Si se genera un perjuicio, será necesario analizar la actuación de quienes desarrollaron, contrataron, configuraron o utilizaron el sistema, ya que la responsabilidad no depende únicamente del uso de inteligencia artificial.
9. Fallos en sistemas críticos y acciones autónomas
Un error puede tener consecuencias físicas cuando la IA interviene en equipos médicos, vehículos, maquinaria o infraestructura. Una herramienta que funcionó durante las pruebas también puede fallar ante datos distintos o situaciones para las que no fue evaluada.
En otros entornos, un asistente conectado a cuentas y aplicaciones podría enviar información, modificar archivos o ejecutar una operación equivocada. El alcance del daño depende, en parte, de los permisos que recibió.
- Prueba el sistema en condiciones representativas antes de incorporarlo al trabajo.
- Reserva las acciones de mayor impacto para una aprobación humana.
- Define límites de acceso, mecanismos de detención y un procedimiento alternativo.
- Revisa su desempeño después de cambios en el modelo, los datos o sus conexiones.
La supervisión requiere tiempo, información y autoridad para intervenir; asignar a alguien que solo confirme las sugerencias aporta poca protección.
10. Impacto ambiental y consumo de recursos
Finalmente, otro de los peligros de la inteligencia artificial está relacionado con el consumo de recursos que requiere su funcionamiento. Desarrollar y utilizar modelos de IA implica equipos, electricidad y sistemas de refrigeración, aunque su impacto varía según el tamaño del modelo, la tarea realizada y la infraestructura utilizada.
Por esta razón, las organizaciones deben evaluar el uso de estas herramientas, elegir modelos adecuados para cada necesidad, evitar procesos innecesarios y solicitar información ambiental a sus proveedores. Considerar este aspecto permite tomar decisiones más responsables sobre la implementación de inteligencia artificial.
Te podría interesar: Tipos de delitos en Perú: clasificación y características
¿Cómo reducir los peligros de la inteligencia artificial?
En este contexto, conocer los peligros de la inteligencia artificial permite establecer medidas de prevención más adecuadas según cada uso. Antes de implementar una herramienta, es importante identificar qué información recibirá, qué acciones podrá realizar y qué consecuencias tendría un posible error. Evaluar estos factores ayuda a determinar el nivel de supervisión, los controles necesarios y las medidas que deben aplicarse para reducir riesgos.
| Situación | Qué comprobar | Medida práctica |
|---|---|---|
| Un audio solicita dinero con urgencia. | La identidad de quien lo envía. | Contacta a la persona por un canal conocido antes de pagar. |
| Una IA redacta un documento importante. | Datos, referencias y alcance de las afirmaciones. | Contrasta con los originales y encarga la revisión necesaria. |
| Un equipo carga archivos de clientes. | La autorización y el tratamiento de la información. | Limita los datos y utiliza servicios aprobados. |
| Un sistema descarta solicitudes. | Los criterios, los errores y las diferencias entre grupos. | Habilita una revisión humana que pueda corregir el resultado. |
| Un asistente opera en varias aplicaciones. | Sus permisos y las acciones que ejecuta. | Restringe accesos y exige aprobación para operaciones sensibles. |
En una empresa, estas medidas deben quedar por escrito y tener un responsable. El marco de gestión de riesgos de IA del NIST ofrece una referencia voluntaria para identificar, evaluar y gestionar riesgos a lo largo del uso de un sistema. Los controles necesitan seguimiento: pueden dejar de ser suficientes si cambian la herramienta o su finalidad.
Peligros de la inteligencia artificial y consecuencias legales en Perú
En el ámbito legal, los peligros de la inteligencia artificial también requieren considerar las normas aplicables en Perú. La Ley N.º 31814 y su reglamento, aprobado mediante el Decreto Supremo N.º 115-2025-PCM, establecen un marco para el uso de IA basado en criterios como el nivel de riesgo, la transparencia y la supervisión humana. Además, cuando se procesan datos personales, deben revisarse las obligaciones de la Ley N.º 29733 y su reglamento.
De igual manera, una incidencia relacionada con IA puede involucrar protección de datos, contratos, derechos de autor, responsabilidad civil o incluso posibles delitos. Sin embargo, no todo error genera automáticamente una sanción o la misma responsabilidad, ya que es necesario analizar la conducta, el daño producido y las circunstancias específicas del caso.
Preguntas frecuentes sobre los peligros de la inteligencia artificial
Las dudas que aún puedas tener sobre los peligros de la inteligencia artificial, las respondemos en este apartado.
¿La inteligencia artificial es peligrosa por sí sola?
El riesgo depende de su diseño, sus datos y su uso. Puede producir errores sin que exista una intención dañina, y también puede utilizarse deliberadamente para engañar. Los controles deben considerar ambos escenarios y el impacto de cada tarea.
¿Qué datos no debería introducir en una herramienta de IA?
Evita compartir contraseñas, códigos de acceso, información bancaria, expedientes médicos y documentos confidenciales en servicios que no estén autorizados para tratarlos. Si trabajas con datos de otras personas, comprueba primero qué uso está permitido. Quitar el nombre no siempre impide identificar a alguien por el resto de la información.
¿Una herramienta de pago elimina estos riesgos?
No. Un plan de pago puede ofrecer controles adicionales, pero hay que revisar sus condiciones y configurarlos. La precisión, la privacidad y la seguridad dependen del servicio y de cómo se utiliza, no solo de su precio.
¿Quién responde si una IA causa un daño?
No existe una respuesta única para todos los casos. Deben evaluarse las obligaciones y la actuación de las personas y organizaciones implicadas, los controles existentes y la relación entre su conducta y el perjuicio. El contrato con el proveedor es una parte de ese análisis.
¿Los riesgos actuales son lo mismo que una posible pérdida de control de una IA avanzada?
No. Las filtraciones, los contenidos falsos y las decisiones discriminatorias son riesgos concretos de usos actuales. Los escenarios de pérdida de control de sistemas mucho más avanzados plantean otras incertidumbres. Conviene distinguirlos para no presentar una hipótesis como un hecho inevitable.
Antes de confiar una decisión a la IA, revisa qué está en juego
Un audio convincente puede terminar en una transferencia equivocada. Un dato inventado puede llegar a un contrato. Conocer los peligros de la inteligencia artificial sirve para reconocer esos momentos y comprobar la información antes de actuar.
Si una herramienta interviene en tu trabajo, revisa qué datos recibe, qué puede hacer y quién está a cargo de corregir un error. Y si ya existe un problema que afecta tu información, tu reputación o tus derechos, en PM & Asociados puedes consultar con abogados en Perú para evaluar lo ocurrido y los pasos que corresponden a tu caso.
