¿Quién responderá de los riesgos que se materialicen como consecuencia de la IA?
La realidad de 2026 es que la IA ya está en todos los ámbitos de nuestra vida: educación, sanidad, empleo, seguridad… La capacidad para tomar decisiones, automatizar procesos y analizar grandes cantidades de datos la convierten en una herramienta que ofrece múltiples oportunidades, pero también plantea riesgos que afectan de manera clara y directa a los derechos fundamentales de las personas.
Consciente de ello, el Consejo de ministros aprobó el pasado 26 de mayo el Proyecto de Ley Orgánica para el buen uso y la gobernanza de la inteligencia artificial, una norma que se ajusta al Reglamento europeo 2024/1689 de Inteligencia Artificial (RIA), en vigor desde agosto de 2024. Con ello se pretende garantizar el desarrollo tecnológico dentro de límites compatibles como la dignidad, la privacidad, y la seguridad jurídica.
La IA no es un espacio sin responsabilidad
Esta nueva regulación nace con la premisa clara: combatir la idea de que no se puede usar la IA para eludir responsabilidades. Cuando el uso de una de ellas genera consecuencias perjudiciales o vulnera derechos resulta imprescindible determinar quién responde por ello.
El principio de responsabilidad es aquel que obliga a los sujetos a asumir las consecuencias de sus actos, independientemente de los instrumentos o medios técnicos que se empleen para ello.
Una lógica jurídica ya conocida
Está presente en multitud de normativas ya vigentes, por ejemplo, en el Real Decreto Legislativo 8/2004, de 29 de octubre, sobre la responsabilidad de los titulares de vehículos a motor. Cuando un automóvil causa daños, la existencia del vehículo no elimina la necesidad de identificar responsables. El sistema jurídico exige determinar quién conducía, quién era su propietario y qué obligaciones de vigilancia, mantenimiento o aseguramiento resultaban exigibles.
Del mismo modo, la Ley 40/2015 en sus artículos 37 y 38, de Régimen Jurídico del Sector Público, contempla la responsabilidad patrimonial de las Administraciones Públicas por los daños causados a los ciudadanos como consecuencia del funcionamiento normal o anormal de los servicios públicos.
También encontramos ejemplos similares en el ámbito educativo. La Ley Orgánica 8/2021, de protección integral a la infancia y la adolescencia frente a la violencia, refuerza las obligaciones de prevención y actuación de los centros educativos frente a situaciones de acoso escolar. En determinados supuestos, la responsabilidad puede extenderse más allá del autor material de la conducta y alcanzar a quienes tenían el deber jurídico de prevenir o evitar el daño.
De forma más amplia, el propio Código Civil también recoge este planteamiento en el artículo 1.903, al establecer supuestos de responsabilidad por hechos ajenos cuando determinadas personas tienen deberes de vigilancia o control respecto de terceros.
La futura regulación de la inteligencia artificial se inspira en esta misma lógica, en virtud de la cual, quien obtiene los beneficios de una actividad tecnológica también debe asumir las responsabilidades derivadas de su utilización.
La protección de los derechos fundamentales como eje central
Uno de los pilares fundamentales del proyecto legislativo es la protección de los derechos fundamentales frente a determinados usos de la inteligencia artificial. La proliferación de los deepfakes (imágenes o videos manipulados por la IA) pueden atacar sustancialmente el derecho a la dignidad de la persona, el derecho a la intimidad personal y a la propia imagen.
El uso de estas herramientas puede emplearse para crear contenidos vejatorios, de naturaleza sexual o engañosos, derivando no solo en responsabilidad administrativa, sino también civiles e incluso penales.
En este sentido, la futura ley se complementa con la normativa ya existente, como el Reglamento General de Protección de Datos (RGPD), la Ley Orgánica 3/2018 de Protección de Datos Personales y Garantía de los Derechos Digitales, así como diversas previsiones contenidas en el Código Penal relativas al descubrimiento y revelación de secretos, los delitos contra la integridad moral, las injurias, las calumnias o los delitos contra la intimidad.
Obligaciones para quienes desarrollan y utilizan sistemas de IA
La nueva ley pretende introducir una responsabilidad mucho más extensa que no recaiga exclusivamente sobre quienes realizan los hechos, sino que también se les imputará cierta responsabilidad a las personas encargadas de desarrollar la tecnología. El Reglamento europeo de Inteligencia Artificial establece diversas obligaciones dependiendo de su papel (distribuidores, importadores, proveedores, desplegadores y operadores). Del mismo modo, la futura norma española refuerza este modelo creando mecanismos de supervisión, transparencia y control.
Un régimen sancionador acorde con los riesgos existentes
El proyecto de ley enumera una serie de conductas explícitamente prohibidas donde la sanción puede alcanzar desde los 500.000€ en los casos leves hasta los 35 millones de euros o el 7% de volumen de negocio en los casos más graves. Estas conductas son:
- Uso de técnicas subliminales (imágenes o sonidos imperceptibles) para manipular decisiones sin consentimiento, causando un perjuicio considerable a la persona (adicciones, violencia de género o menoscabo de su autonomía).
- Explotación vulnerabilidades relacionadas con la edad, la discapacidad o situación socioeconómica para alterar sustancialmente comportamientos de modo que les provoque o pueda provocar perjuicios considerables.
- Clasificación con biometría a las personas por raza u orientación política, religiosa o sexual
Puntuación a individuos o grupos basándose en comportamientos sociales o rasgos personales como método de selección para, por ejemplo, denegarles la concesión de subvenciones o préstamos.
Pese a ello, la futura ley dedica gran parte del texto a la otra gran finalidad la prevención. Busca crear una cultura de prevención, diligencia y responsabilidad en el desarrollo y utilización de la inteligencia artificial.
La supervisión pública como garantía adicional
La ley atribuye funciones de supervisión a distintas autoridades competentes. Entre ellas destaca la Agencia Española de Supervisión de la Inteligencia Artificial (AESIA), creada para coordinar y supervisar la aplicación de este nuevo marco regulatorio, así como la Agencia Española de Protección de Datos (AEPD) cuando los sistemas de IA impliquen tratamientos de datos personales.
La existencia de ambos organismos especializados no se trata de un planteamiento exclusivo en esta materia, vemos que ya aparece en la Comisión Nacional del Mercado de Valores que supervisa los mercados financieros o en la Agencia Española de Seguridad Aérea vela por la seguridad del transporte aéreo. Todos estos organismos responden a la necesidad de autoridades capaces de afrontar los desafíos específicos de sectores especialmente relevantes para el buen funcionamiento del Estado de Derecho.
Una cuestión de prevención
La esperada regulación en esta materia llega después de casos de repercusión nacional como el de la “Escuela Manuel Belgrado”, donde un estudiante intentó comercializar imágenes de carácter explícito de sus compañeras que fueron modificadas con IA. Casos como este pusieron de manifiesto la necesidad real de una regulación férrea en este ámbito, donde la identificación y posterior imputación de responsabilidad no termine solo en el infractor, sino que se extienda hasta llegar a los encargados de desarrollar, comercializar o desplegar la herramienta. Este objetivo parece claramente alcanzado a tenor literal del ante proyecto de ley, donde para evitar las contundentes sanciones las empresas deben introducir medidas que imposibiliten el uso dañino de sus herramientas de IA.
La verdadera dificultad está en las medidas de control que debe implementarse tanto desde el ámbito público como privado sean suficientes. Quedamos a la espera de ver qué poderes reales tendrán estos nuevos organismos para imponer sus medidas frente a los gigantes tecnológicos. Solo el tiempo dirá si esta normativa consigue ambos objetivos.
Mario Munllonch
Contacte con nuestros abogados especializados en:
Abogados especializados en Madrid