Garamago Abogados

Etiqueta: Penal

  • NUEVA LEY PARA REGULAR EL USO PERNICIOSO DE LA INTELIGENCIA ARTIFICIAL

    NUEVA LEY PARA REGULAR EL USO PERNICIOSO DE LA INTELIGENCIA ARTIFICIAL

    ¿Quién responderá de los riesgos que se materialicen como consecuencia de la IA?

    La realidad de 2026 es que la IA ya está en todos los ámbitos de nuestra vida: educación, sanidad, empleo, seguridad… La capacidad para tomar decisiones, automatizar procesos y analizar grandes cantidades de datos la convierten en una herramienta que ofrece múltiples oportunidades, pero también plantea riesgos que afectan de manera clara y directa a los derechos fundamentales de las personas.

    Consciente de ello, el Consejo de ministros aprobó el pasado 26 de mayo el Proyecto de Ley Orgánica para el buen uso y la gobernanza de la inteligencia artificial, una norma que se ajusta al Reglamento europeo 2024/1689 de Inteligencia Artificial (RIA), en vigor desde agosto de 2024. Con ello se pretende garantizar el desarrollo tecnológico dentro de límites compatibles como la dignidad, la privacidad, y la seguridad jurídica.

     

    La IA no es un espacio sin responsabilidad

    Esta nueva regulación nace con la premisa clara: combatir la idea de que no se puede usar la IA para eludir responsabilidades. Cuando el uso de una de ellas genera consecuencias perjudiciales o vulnera derechos resulta imprescindible determinar quién responde por ello.

    El principio de responsabilidad es aquel que obliga a los sujetos a asumir las consecuencias de sus actos, independientemente de los instrumentos o medios técnicos que se empleen para ello.

     

    Una lógica jurídica ya conocida

    Está presente en multitud de normativas ya vigentes, por ejemplo, en el Real Decreto Legislativo 8/2004, de 29 de octubre, sobre la responsabilidad de los titulares de vehículos a motor. Cuando un automóvil causa daños, la existencia del vehículo no elimina la necesidad de identificar responsables. El sistema jurídico exige determinar quién conducía, quién era su propietario y qué obligaciones de vigilancia, mantenimiento o aseguramiento resultaban exigibles.

    Del mismo modo, la Ley 40/2015 en sus artículos 37 y 38, de Régimen Jurídico del Sector Público, contempla la responsabilidad patrimonial de las Administraciones Públicas por los daños causados a los ciudadanos como consecuencia del funcionamiento normal o anormal de los servicios públicos.

    También encontramos ejemplos similares en el ámbito educativo. La Ley Orgánica 8/2021, de protección integral a la infancia y la adolescencia frente a la violencia, refuerza las obligaciones de prevención y actuación de los centros educativos frente a situaciones de acoso escolar. En determinados supuestos, la responsabilidad puede extenderse más allá del autor material de la conducta y alcanzar a quienes tenían el deber jurídico de prevenir o evitar el daño.

    De forma más amplia, el propio Código Civil también recoge este planteamiento en el artículo 1.903, al establecer supuestos de responsabilidad por hechos ajenos cuando determinadas personas tienen deberes de vigilancia o control respecto de terceros.

    La futura regulación de la inteligencia artificial se inspira en esta misma lógica, en virtud de la cual, quien obtiene los beneficios de una actividad tecnológica también debe asumir las responsabilidades derivadas de su utilización.

     

    La protección de los derechos fundamentales como eje central

    Uno de los pilares fundamentales del proyecto legislativo es la protección de los derechos fundamentales frente a determinados usos de la inteligencia artificial. La proliferación de los deepfakes (imágenes o videos manipulados por la IA) pueden atacar sustancialmente el derecho a la dignidad de la persona, el derecho a la intimidad personal y a la propia imagen.

    El uso de estas herramientas puede emplearse para crear contenidos vejatorios, de naturaleza sexual o engañosos, derivando no solo en responsabilidad administrativa, sino también civiles e incluso penales.

    En este sentido, la futura ley se complementa con la normativa ya existente, como el Reglamento General de Protección de Datos (RGPD), la Ley Orgánica 3/2018 de Protección de Datos Personales y Garantía de los Derechos Digitales, así como diversas previsiones contenidas en el Código Penal relativas al descubrimiento y revelación de secretos, los delitos contra la integridad moral, las injurias, las calumnias o los delitos contra la intimidad.

     

    Obligaciones para quienes desarrollan y utilizan sistemas de IA

    La nueva ley pretende introducir una responsabilidad mucho más extensa que no recaiga exclusivamente sobre quienes realizan los hechos, sino que también se les imputará cierta responsabilidad a las personas encargadas de desarrollar la tecnología. El Reglamento europeo de Inteligencia Artificial establece diversas obligaciones dependiendo de su papel (distribuidores, importadores, proveedores, desplegadores y operadores). Del mismo modo, la futura norma española refuerza este modelo creando mecanismos de supervisión, transparencia y control.

     

    Un régimen sancionador acorde con los riesgos existentes

    El proyecto de ley enumera una serie de conductas explícitamente prohibidas donde la sanción puede alcanzar desde los 500.000€ en los casos leves hasta los 35 millones de euros o el 7% de volumen de negocio en los casos más graves. Estas conductas son:

    • Uso de técnicas subliminales (imágenes o sonidos imperceptibles) para manipular decisiones sin consentimiento, causando un perjuicio considerable a la persona (adicciones, violencia de género o menoscabo de su autonomía).
    • Explotación vulnerabilidades relacionadas con la edad, la discapacidad o situación socioeconómica para alterar sustancialmente comportamientos de modo que les provoque o pueda provocar perjuicios considerables.
    • Clasificación con biometría a las personas por raza u orientación política, religiosa o sexual

    Puntuación a individuos o grupos basándose en comportamientos sociales o rasgos personales como método de selección para, por ejemplo, denegarles la concesión de subvenciones o préstamos.

    Pese a ello, la futura ley dedica gran parte del texto a la otra gran finalidad la prevención. Busca crear una cultura de prevención, diligencia y responsabilidad en el desarrollo y utilización de la inteligencia artificial.

     

    La supervisión pública como garantía adicional

    La ley atribuye funciones de supervisión a distintas autoridades competentes. Entre ellas destaca la Agencia Española de Supervisión de la Inteligencia Artificial (AESIA), creada para coordinar y supervisar la aplicación de este nuevo marco regulatorio, así como la Agencia Española de Protección de Datos (AEPD) cuando los sistemas de IA impliquen tratamientos de datos personales.

    La existencia de ambos organismos especializados no se trata de un planteamiento exclusivo en esta materia, vemos que ya aparece en la Comisión Nacional del Mercado de Valores que supervisa los mercados financieros o en la Agencia Española de Seguridad Aérea vela por la seguridad del transporte aéreo. Todos estos organismos responden a la necesidad de autoridades capaces de afrontar los desafíos específicos de sectores especialmente relevantes para el buen funcionamiento del Estado de Derecho.

     

    Una cuestión de prevención

    La esperada regulación en esta materia llega después de casos de repercusión nacional como el de la “Escuela Manuel Belgrado”, donde un estudiante intentó comercializar imágenes de carácter explícito de sus compañeras que fueron modificadas con IA. Casos como este pusieron de manifiesto la necesidad real de una regulación férrea en este ámbito, donde la identificación y posterior imputación de responsabilidad no termine solo en el infractor, sino que se extienda hasta llegar a los encargados de desarrollar, comercializar o desplegar la herramienta. Este objetivo parece claramente alcanzado a tenor literal del ante proyecto de ley, donde para evitar las contundentes sanciones las empresas deben introducir medidas que imposibiliten el uso dañino de sus herramientas de IA.

    La verdadera dificultad está en las medidas de control que debe implementarse tanto desde el ámbito público como privado sean suficientes. Quedamos a la espera de ver qué poderes reales tendrán estos nuevos organismos para imponer sus medidas frente a los gigantes tecnológicos. Solo el tiempo dirá si esta normativa consigue ambos objetivos.

     

    Mario Munllonch

     

    Contacte con  nuestros abogados especializados en:

    Abogados especializados en Madrid

     

  • LA RESPONSABILIDAD DETRÁS DEL BULLYING

    LA RESPONSABILIDAD DETRÁS DEL BULLYING

    El bullying no queda impune: responsabilidad civil y penal detrás del acoso

    Por desgracia, en los últimos años hemos sido testigos de un incremento de agresiones, hostigamientos y suicidios de menores víctimas de acoso escolar, lo que ha provocado una evidente alarma social y un sentimiento de impotencia ante la aparente falta de mecanismos preventivos, que se suman a la sensación de aparente impunidad que rodea a estos casos. Pero, ¿es esto realmente así? ¿Acaso nadie responde por los daños que sufren las víctimas de bullying? Para determinar qué responsabilidades se pueden derivar de este fenómeno es necesario examinar el marco normativo vigente.

    En primer lugar, en el plano civil –esto es, en el plano puramente indemnizatorio, con independencia de la posible comisión de un delito– el artículo 1903 del Código Civil establece que los padres, tutores o guardadores habrán de responder de los daños causados por los hijos bajo su guarda. Asimismo, los titulares de centros docentes no superiores responderán por los daños ocasionados por los alumnos menores durante el tiempo en que estén bajo control del centro. En ambos casos, se trata de una responsabilidad cuasi objetiva, lo que significa que únicamente cesa si se acredita haber actuado con la diligencia que les es exigible y, por tanto, si se demuestra haber adoptado las medidas que tenían a su alcance para impedir y/o hacer frente a una situación de acoso escolar.

    En este sentido, cabe mencionar que nuestra legislación impone a los centros educativos amplios deberes de prevención y reacción frente a la violencia sobre menores a su cargo. Así, la Ley Orgánica 8/2021, de protección integral a la infancia y la adolescencia frente a la violencia, dispone en sus artículos 15, 16, 17 y 19 el deber de cualquier ciudadano de comunicar a la autoridad competente toda situación de violencia contra un menor de la que se tenga conocimiento. Si los hechos pudieran ser delictivos, deberá de notificarse también a las Fuerzas y Cuerpos de Seguridad, al Ministerio Fiscal o a la autoridad judicial, debiendo igualmente de prestar la asistencia inmediata que la víctima requiera. Pues bien, este deber de comunicación tiene carácter cualificado para quienes, por su oficio, asisten, enseñan o protegen a menores, como sucede con el personal de los centros docentes. Además, la ley impone que los centros han de informar al alumnado sobre los canales de denuncia que se ponen a su disposición.

    Por su parte, el Capítulo IV de la misma ley regula de manera específica la actuación exigible a estos centros en esta materia. Por un lado, el artículo 31 obliga a aprobar un plan de convivencia que incluya actividades formativas sobre el buen trato y los métodos pacíficos de resolución de conflictos, así como códigos de conducta frente al acoso, ya ocurra dentro del centro o mediante medios tecnológicos. Por otro lado, el artículo 34 ordena la implantación de protocolos de actuación contra el acoso escolar, elaborados con la participación de administraciones y profesionales, evaluados periódicamente y que sean activados ante cualquier indicio de violencia contra un menor. Estos protocolos deben prever la coordinación con los ámbitos sanitario, policial y judicial, y han de ir acompañados de la formación especializada al personal del centro.

    Cabe señalar que existen previsiones similares en otras normas como la Ley Orgánica 2/2006, de Educación (arts. 124, 91 g), 127 g), 129 j) y 132 f)), así como en la regulación de ámbito autonómico.

    Partiendo de lo anterior, lo que se desprende de la jurisprudencia es que, cuando los hechos se producen en el entorno escolar, puede optarse por demandar conjuntamente a los padres, tutores o guardadores del agresor y al centro educativo cuando se haya mantenido pasivo ante el acoso, o bien dirigir la acción únicamente contra uno de ellos. En cambio, si la conducta ocurre solo fuera de dicho ámbito, la responsabilidad recaerá exclusivamente en los primeros. En todo caso, la ley permite a los centros educativos repetir –es decir, redirigir posteriormente la responsabilidad– contra su personal si se acredita una conducta dolosa o gravemente negligente por parte de alguno de los empleados.

    Es importante tener presente que, en caso de que el centro educativo sea público, también cabrá exigir su responsabilidad civil, pero en esta ocasión habrá de hacerlo con base en la responsabilidad patrimonial de la Administración Pública de los artículos 32 y siguientes de la Ley 40/2015, de Régimen Jurídico del Sector Público, tramitándose entonces por la vía administrativa y, en su caso, por la contencioso-administrativa, en lugar de la vía civil.

    Por otro lado, respecto de la responsabilidad en el ámbito penal, el artículo 173.1 del Código Penal tipifica el trato degradante hacia otra persona como un delito contra la integridad moral, lo que viene siendo de aplicación a muchas situaciones de acoso escolar, sin perjuicio de que sean apreciables, además, otros delitos (ej. Delito de lesiones). Dicho lo cual, si el agresor es menor de edad –circunstancia no poco frecuente en estos contextos– pero alcanza los 14 años o más, podrá responder por estos delitos con arreglo a la Ley Orgánica 5/2000, reguladora de la responsabilidad penal de los menores (en adelante, LORPM) que prevé la imposición de distintas medidas (ej. Internamiento en un centro en régimen abierto, tareas en beneficio de la comunidad, asistencia a actividades socioeducativas etc.) según la gravedad del hecho y las circunstancias del menor. Por el contrario, si el agresor es menor de 14 años, éste será, desde la perspectiva penal, inimputable, aunque ello no será óbice para que subsista la responsabilidad civil conforme a lo expuesto.

    Entendido lo anterior, cabe aclarar que la responsabilidad civil es totalmente compatible con la penal, en virtud de los artículos 109 y siguientes del Código Penal, de modo que será perfectamente posible exigir aquélla en el propio proceso penal. En particular, para los delitos cometidos por menores imputables, el artículo 61.3 LORPM permite reclamar la responsabilidad civil solidaria del menor y, por este orden, de padres, tutores, acogedores y guardadores. La indemnización puede dirigirse íntegramente contra cualquiera de ellos, aunque el órgano judicial podrá moderarla respecto de quienes hayan actuado con la diligencia exigible.

    En cuanto a la responsabilidad penal de los centros educativos, conviene distinguir dos cuestiones. Por un lado, es plenamente posible imputar al personal docente o directivo el delito de acoso escolar en la modalidad de comisión por omisión, lo que implica atribuirles la comisión de este delito –a pesar de no haberlo cometido per se– por no haber intercedido en su condición de garantes –esto es, de protectores– de su alumnado durante la jornada escolar. Por otro, respecto del propio centro como persona jurídica, la reforma operada por la Ley Orgánica 10/2022, de 6 de septiembre, de garantía integral de la libertad sexual incluyó en el artículo 173.1 CP un inciso que permite la responsabilidad penal de personas jurídicas por estos delitos. Esto abrió la puerta a aplicar, a través de los artículos 31 bis y siguientes del Código Penal, la comisión por omisión también a las entidades jurídicas para los delitos de acoso escolar. No obstante, debido a la propia configuración legal de la responsabilidad penal de las personas jurídicas, ésta no es predicable para los centros públicos.

    Finalmente, con respecto a la responsabilidad civil de los centros dentro del proceso penal, a diferencia del Código Civil, la LORPM no los menciona expresamente como sujetos obligados, lo que ha generado dos interpretaciones. La posición más restrictiva remite su reclamación exclusivamente a la vía civil; mientras que la más amplia –que es, a su vez, la más coherente con el artículo 120.3 CP y con la función de guarda ejercida por los centros– permite incluirlos dentro del ámbito del artículo 61.3 LORPM y exigirles responsabilidad civil también en sede penal. Además, el Código Civil, aplicable con carácter supletorio, reconoce de forma clara, como hemos visto, esta responsabilidad, lo que refuerza su exigibilidad también en el proceso penal.

    Alicia Navarro Fernández

     

    Contacta con nuestros abogados especializados en:

    Abogados Madrid

     

  • Sanciones a los ciudadanos por el estado de alarma

    ¿Qué sanciones se pueden imponer a los ciudadanos que incumplan las limitaciones a la libertad deambulatoria impuestas por el Estado de Alarma? Real Decreto 465/2020, de 17 de marzo

    Continuando con la serie de noticias relacionadas con la situación creada con la crisis del Covid-19, de la que hemos adelantado en nuestra web información laboral y de familia, vamos a analizar las sanciones a las que se enfrentan los ciudadanos que incumplan las limitaciones impuestas en el Estado de Alarma:

    Dependiendo de su gravedad, pueden constituir, de menor a mayor punibilidad

    Como infracción administrativa, prevista en los artículos 34 a 37 de la Ley Orgánica 4/2015 (SP/LEG/17259), que puede ser calificada como (artículo 39.1):

    1. Leve, que se sancionan con multas que van de los 100 a los 600 euros; aquí se incluyen por ejemplo conductas como: «El incumplimiento de las restricciones de circulación peatonal …» o «las faltas de respeto y consideración cuyo destinatario sea un miembro de las Fuerzas y Cuerpos de Seguridad en el ejercicio de sus funciones de protección de la seguridad, cuando estas conductas no sean constitutivas de infracción penal» (artículo 37, apartados 3 y 4)
    2. Grave, en que la sanción administrativa sería una multa de 601 a 30.000 euros; aquí se incluyen las conductas previstas en el artículo 36.6 de la Ley Orgánica que nos ocupa: «La desobediencia o la resistencia a la autoridad o a sus agentes en el ejercicio de sus funciones, cuando no sean constitutivas de delito, así como la negativa a identificarse a requerimiento de la autoridad o de sus agentes o la alegación de datos falsos o inexactos en los procesos de identificación».
    3. Y muy grave, que se castiga con multa de 30.001 a 600.000 euros, que corresponde a las conductas previstas en el artículo 35, muy extremas, altamente improbable que se produzcan en el estado de emergencia que nos ocupa.

    Como Infracción penal, si la conducta del ciudadano ya traspasara los límites del texto punitivo con acciones mucho más graves hacia los agentes de la autoridad, podría llegar a tratarse de delitos de falta de respeto, desobediencia, resistencia e incluso atentado, castigados en los artículos 550 a 556 del Código Penal. Sucintamente vamos a definir cada una de estas conductas, también de menor a mayor gravedad:

    1. Falta de respeto y consideración debida a la autoridad en el ejercicio de sus funciones, que se castiga con pena de multa de uno a tres meses (delito leve del artículo 556.2).
    2. Desobediencia y resistencia, que la cometen «los que, sin estar comprendidos en el artículo 550, resistieren o desobedecieren gravemente a la autoridad o sus agentes en el ejercicio de sus funciones, o al personal de seguridad privada, debidamente identificado, que desarrolle actividades de seguridad privada en cooperación y bajo el mando de las Fuerzas y Cuerpos de Seguridad». Estos delitos se castigan con pena de prisión de tres meses a un año o multa de 6 a 18 meses (artículo 556.1).
    3. Cometen atentado: «los que agredieren o, con intimidación grave o violencia, opusieren resistencia grave a la autoridad, a sus agentes o funcionarios públicos, o los acometieren, cuando se hallen en el ejercicio de las funciones de sus cargos o con ocasión de ellas»(artículo 550 CP) y también contra miembros de las Fuerzas Armadas (artículo 554), que en España están también interviniendo en este estado de alarma. Su tipo básico se castiga con penas de prisión de 1 a 4 años y multa de 3 a 6 meses, si la víctima es «autoridad»; y con prisión de 6 meses a 3 años en los demás casos (dejando aparte tipos agravados y atentados contra miembros del Gobierno, Congreso, Senado, Comunidades Autónomas y otros).

    Finalmente, es preciso tener también en cuenta que la Ley 17/2015, de 9 de julio, del Sistema Nacional de Protección Civil (SP/LEG/18091), en el apartado 4.b) de su artículo 45 considera Infracción grave:

    «En las emergencias declaradas, el incumplimiento de las órdenes, prohibiciones, instrucciones o requerimientos efectuados por los titulares de los órganos competentes o los miembros de los servicios de intervención y asistencia, así como de los deberes de colaboración a los servicios de vigilancia y protección de las empresas públicas o privadas, cuando no suponga una especial peligrosidad o trascendencia para la seguridad de las personas o los bienes».

    Infracción grave que en su artículo 46.2 se castiga con multa de 1.501 a 30.000 euros.

    Lola Escrig i Antoni

    Departamento Penal

Garamago Abogados