I. Introducción
La regulación de la IA se vuelve especialmente compleja cuando entra en contacto con la responsabilidad penal y la libertad de expresión. En los sistemas generativos (LLM), los usuarios interactúan mediante prompts, los resultados no son plenamente predecibles y la misma entrada puede producir resultados distintos según el contexto y la configuración del modelo. Si la ley trata cada resultado como si hubiera sido escrito directamente por el usuario, la responsabilidad puede desplazarse desde el discurso ilícito hacia la intención del usuario dentro de un proceso incierto y probabilístico. En la práctica, ese riesgo suele conducir a autocensura y sobrefiltrado.
En nuestro artículo anterior, Regulating AI Speech in Turkey: Lessons From the Grok Ban and 2025 Draft Laws, examinamos el episodio de Grok y el paquete legislativo turco de finales de 2025. Partiendo de esa base, este artículo utiliza la comparación Turquía vs. UE para someter a prueba las cuestiones difíciles: cómo puede probarse la intención cuando los prompts no garantizan resultados, cómo encaja la exposición de los desarrolladores con el principio de responsabilidad penal personal, y cómo las opciones de ejecución pueden restringir usos lícitos incluso sin prohibiciones explícitas.
II. Dos enfoques diferentes frente al problema de la IA
2.1. La UE: deberes de gobernanza, supervisión y multas escalables
El eje principal del Reglamento de IA de la UE es la gobernanza. El énfasis recae en deberes claros, transparencia, gestión de riesgos, documentación y aplicación supervisora respaldada por multas significativas para operadores grandes y transfronterizos.
En la práctica, esto significa que la UE se centra menos en un incidente concreto y más en si el operador puede demostrar control. Cuando surgen problemas, la pregunta suele ser: qué salvaguardias se incorporaron, qué se probó, qué se monitorizó tras el despliegue y qué cambió una vez que el riesgo se hizo visible. La expectativa no es la perfección. Es una mitigación disciplinada y demostrable que se corresponda con la escala y sensibilidad del despliegue.
Esta es también la razón por la que la aplicación al estilo de la UE puede apoyarse en las multas como una palanca real. El mercado interior es amplio, la supervisión está estructuralmente coordinada y las sanciones pueden calibrarse en función del volumen de negocios. Para las empresas, la presión de cumplimiento suele recaer en el proceso: poder demostrar de manera creíble que el riesgo fue evaluado y gestionado, en lugar de ignorado.
2.2. Turquía: medidas de restricción de acceso y responsabilidad penal
Turquía opera en una realidad de ejecución distinta. Los principales desarrolladores de IA, operadores de modelos y proveedores de infraestructura esencial suelen estar ubicados en el extranjero. En ese contexto, las sanciones monetarias pueden existir sobre el papel, pero no siempre son la palanca más eficaz en situaciones calificadas como urgentes.
Por ello, el conjunto de herramientas de Turquía tiende a dar peso práctico a medidas que pueden ejecutarse localmente y con rapidez: retirada de contenidos, geobloqueo y restricciones de acceso. El episodio de Grok analizado en nuestro artículo anterior reflejó claramente esta lógica: el punto de presión inmediato no era cobrar una multa en el extranjero, sino detener la difusión en Turquía.
Lo que hace jurídicamente más sensible al paquete legislativo de finales de 2025 es que no se limita a los mecanismos de intervención. También intenta conectar determinados daños relacionados con la IA con la atribución penal de formas que pueden crear una exposición real para los prompts del lado del usuario y, en ciertos escenarios, para las decisiones de diseño y entrenamiento del lado del desarrollador. Incluso antes de que se definan los detalles de implementación, este enfoque por sí solo cambia materialmente el perfil de riesgo de cumplimiento para los operadores globales.
2.3. Por qué importa esta diferencia
Estos enfoques generan incentivos distintos. El modelo de la UE tiende a impulsar un cumplimiento intensivo en gobernanza: más pruebas, más documentación, más monitorización, controles internos más claros y una trazabilidad probatoria capaz de resistir el escrutinio supervisor. La dirección de Turquía tiende a impulsar un cumplimiento intensivo en respuesta, pero con un filo más marcado: cuando está en juego la exposición penal y las restricciones de acceso son una palanca realista, las empresas tienen fuertes incentivos para adoptar una posición conservadora: endurecer filtros, restringir categorías sensibles, reducir funciones de compartición o desplegar configuraciones específicas por jurisdicción para evitar una escalada.
Los posibles problemas de estas regulaciones son fáciles de prever. Si los estándares son demasiado abiertos, las empresas responderán defensivamente, retirando en exceso, filtrando en exceso o limitando funcionalidades. Si los estándares son demasiado estrechos, daños relevantes quedarán sin respuesta. El reto jurídico consiste en encontrar el punto óptimo: reglas que sean aplicables en la práctica, pero lo suficientemente disciplinadas como para evitar una responsabilidad basada en el resultado y una sobrerrestricción rutinaria.
III. El borrador turco: responsabilidad penal y el problema real
3.1. Qué intenta hacer el borrador (en términos sencillos)
El paquete legislativo turco de finales de 2025 hace más que ampliar las herramientas de retirada y bloqueo de acceso. También intenta conectar el uso de la IA con la responsabilidad penal.
El borrador sigue una estructura simple:
- Responsabilidad del lado del usuario: si una persona utiliza un sistema de IA para producir algo que ya constituye delito conforme al derecho turco, esa persona puede ser tratada como autora. La IA se configura como la herramienta.
- Exposición del lado del desarrollador: el borrador también apunta a una exposición más elevada para los desarrolladores cuando se considere que el diseño o entrenamiento del sistema facilita la comisión de determinados delitos.
Este enfoque pretende cerrar la “brecha de responsabilidad” creada por los resultados no humanos. Pero una vez que la responsabilidad penal se vincula a los prompts y al diseño del modelo, las cuestiones jurídicas se vuelven mucho más difíciles que en los casos ordinarios de contenido de plataforma.
3.2. Riesgo para la libertad de expresión: por qué los “prompts” dificultan trazar la frontera
En un entorno de IA, el usuario interactúa con el sistema mediante un prompt, es decir, la entrada que escribe para obtener una respuesta. El modelo produce entonces un resultado. Ese resultado puede permanecer privado, o puede hacerse público si se publica, comparte o muestra a través de una función de la plataforma. Esta estructura es jurídicamente relevante porque plantea una pregunta sencilla: ¿la ley reacciona frente a algo que fue efectivamente expresado en público, o frente al intento de un usuario de probar y orientar un sistema antes de que algo fuera publicado?
Por esta razón, la expresión “discurso ilícito” debe manejarse con cautela. Todos los sistemas jurídicos restringen ciertos tipos de expresión, especialmente cuando generan un daño real, como amenazas directas, acoso dirigido o incitación. Pero la línea no es fija. En la práctica, lo que cuenta como “ilícito” depende de los delitos previstos en esa jurisdicción y de cuán ampliamente se apliquen conceptos como “orden público”. Si la definición se traza con demasiada amplitud, el impacto no se limita a unas pocas retiradas o procesos penales. Puede dar lugar a que usuarios y empresas eviten discursos lícitos que podrían interpretarse como riesgosos, o, en otras palabras, a autocensura.
Aquí es donde el encuadre penal del lado del usuario en el borrador se vuelve sensible. Si la responsabilidad se sitúa demasiado cerca del prompt, la ley puede empezar a castigar la indagación en lugar de la expresión. Los prompts se utilizan a menudo para pruebas, sátira, traducción o hipótesis. Cuando esa conducta previa se convierte en el principal disparador, aumenta la probabilidad de extralimitación. Al mismo tiempo, las plataformas pueden responder defensivamente e introducir filtros más estrictos, una cobertura temática más estrecha y “configuraciones para Turquía” que restrinjan usos lícitos para evitar una escalada.
3.3. Intención y prueba: hacer prompting no es lo mismo que escribir el mensaje
Un prompt puede influir en el resultado, pero no otorga al usuario control total. Si el usuario no puede prever de manera fiable lo que producirá el modelo, tratar el resultado como una declaración propia del usuario se vuelve problemático para la atribución penal.
Para ilustrarlo con un ejemplo: el autor de un correo electrónico amenazante controla efectivamente las palabras y decide por completo lo que se escribe en el correo. En cambio, con un sistema de IA, el resultado lo produce un modelo probabilístico moldeado por datos de entrenamiento, instrucciones de sistema, filtros de seguridad y contexto. Incluso un prompt cuidadosamente redactado no garantiza un resultado específico. El mismo prompt puede producir resultados distintos según la versión del modelo, la configuración, el idioma o pequeños cambios de redacción.
Esto dificulta probar la intención. Un único resultado con apariencia ilícita no demuestra automáticamente que el usuario pretendiera exactamente ese resultado. El mismo resultado puede aparecer por una orientación deliberada, pero también porque el prompt era ambiguo, el contexto cambió, la traducción alteró el significado o el modelo se comportó de forma inesperada.
Si intervienen sanciones penales, esto no es un detalle técnico. El derecho penal opera con prueba más allá de toda duda razonable. En casos de IA, ello suele requerir examinar el cuadro completo, por ejemplo qué solicitaba realmente el prompt, si el usuario intentó repetidamente orientar el modelo hacia contenido ilícito, si el resultado puede reproducirse en el mismo contexto del sistema y qué hizo después el usuario.
El borrador señala una intención de tratar la “dirección” como base de exposición penal. Pero todavía no explica cómo deben evaluarse en términos probatorios los casos prompt-resultado. Sin estándares claros, existe un riesgo real de que la ejecución se vuelva dependiente del resultado: el resultado parece ilícito, por tanto el usuario debió haberlo querido.
3.4. Exposición del desarrollador: la línea de la “responsabilidad penal personal”
La exposición del lado del desarrollador es aún más sensible. Los desarrolladores no redactan cada resultado del modo en que una persona redacta una declaración. Construyen y despliegan un sistema que se comporta de manera distinta según prompts, contexto, idioma y configuración de seguridad.
Aquí cobra importancia un principio básico. La responsabilidad penal es generalmente personal y, en muchos sistemas jurídicos, está vinculada a garantías constitucionales o de derechos fundamentales. En términos prácticos, el castigo penal debe basarse en el acto propio culpable y en la culpa de la persona. Un modelo que impone exposición penal a un desarrollador simplemente porque se produjo un resultado ilícito, sin una demostración clara de culpa, corre el riesgo de vulnerar el principio constitucional.
Para que la exposición del desarrollador sea sostenible, necesita límites claros. En un entorno de IA, debería exigir algo más que demostrar que existió un resultado dañino. Debería apuntar a una culpa, como la facilitación consciente de un uso ilícito, la facilitación intencional o el desprecio imprudente de modos de fallo repetidos y documentados.
De lo contrario, el desarrollador se convierte en garante de lo que un sistema probabilístico pueda decir. Eso es difícil de justificar en términos de derecho penal.
IV. Conclusión
Los sistemas de IA pueden generar contenido dañino con rapidez, a escala y a través de fronteras. Tanto la UE como Turquía están respondiendo a esta realidad, pero lo hacen con enfoques drásticamente diferentes. El modelo de la UE se construye en torno a la gobernanza. Empuja a los operadores hacia la transparencia, la gestión de riesgos, la documentación y la supervisión, con multas que realmente pueden modificar comportamientos en un gran mercado interior. El paquete turco, por el contrario, otorga más peso práctico a la intervención rápida en la capa de acceso, y también intenta conectar ciertos escenarios de IA con la atribución penal para usuarios y, en algunos casos, desarrolladores.
El aspecto penal es donde surgen los problemas. Un prompt puede influir en un resultado, pero no otorga al usuario control total ni plena previsibilidad. Lo mismo ocurre con los desarrolladores. Los desarrolladores construyen y despliegan sistemas probabilísticos, pero no redactan cada declaración que el sistema genera posteriormente en respuesta a prompts, contextos y configuraciones cambiantes. Si la exposición penal se vincula demasiado estrechamente al resultado, sin un estándar claro basado en la culpa y un enfoque probatorio capaz de demostrar de forma fiable la intención, la ejecución corre el riesgo de volverse dependiente del resultado.
En la práctica, este tipo de incertidumbre tiende a empujar al mercado en una sola dirección. Los operadores no esperan a que la jurisprudencia aclare dónde está la línea. Reducen el riesgo desde el inicio endureciendo filtros, estrechando categorías sensibles y limitando funciones en el mercado local, especialmente cuando las restricciones de acceso son una palanca realista. Aunque esto puede reducir ciertos daños, también puede restringir usos lícitos y expresión legítima, no porque la ley lo exija explícitamente, sino porque la decisión de producto más segura suele ser la más restrictiva. La prueba de largo plazo para el borrador será, por tanto, si puede disuadir el uso indebido deliberado sin convertir el prompting ordinario y el diseño rutinario de productos en una fuente de exposición penal.
Nota: Esta traducción se ofrece únicamente como cortesía y puede presentar pequeñas diferencias respecto del texto original.
