Las grandes empresas tecnológicas suelen evitar la responsabilidad cuando sus productos fallan o generan errores. En general, la responsabilidad recae en el usuario, quien debe comprobar y validar la información proporcionada, especialmente en el caso de las inteligencias artificiales de gran tamaño (LLM, por sus siglas en inglés), conocidas por generar datos falsos o imprecisos, a menudo denominados «alucinaciones». Esto es habitual, salvo cuando regulaciones concretas exigen garantías en sectores críticos, como la salud o el transporte.
No obstante, un tribunal de Múnich ha dado un paso histórico al considerar a Google estrictamente responsable por información errónea producida por su propia IA. En este caso concreto, la herramienta de resumen automático de Google vinculó de forma falsa y potencialmente dañina a dos editoriales con actividades fraudulentas, colocando estas menciones en los primeros resultados de búsqueda.
Normalmente, los motores de búsqueda no se consideran responsables del contenido que indexan, ya que las reclamaciones legales deben dirigirse a los autores de las páginas web. Sin embargo, aquí no existía un contenido real, sino algo inventado por la IA de Google, lo que llevó a la corte a concluir que la responsabilidad debe recaer en la propia empresa.
Google defendió su posición argumentando que los usuarios son conscientes de la naturaleza poco fiable de los resultados generados por IA y, por tanto, deben verificar la información por sí mismos. Sin embargo, el tribunal rechazó esta defensa, comparándola con excusas infundadas para evitar responsabilidades legales, y dictaminó la culpabilidad de Google, instándolo a cesar estas prácticas.
Esta sentencia es especialmente significativa porque, mientras un profesional puede optar por dejar de utilizar IA si esta ocasiona problemas, Google tiene su modelo de negocio centrado en ofrecer información confiable a miles de millones de usuarios, y no puede prescindir de su IA ni controlar del todo sus fallos actuales.
En respuesta, muchas empresas han desarrollado procesos internos para validar y corregir la información de la IA, con la ayuda de expertos humanos, lo que reduce en parte los beneficios de productividad esperados. Por su parte, Google continúa añadiendo capas de contenidos generados por IA en lugar de resultados tradicionales, a pesar de las críticas y del riesgo legal creciente.
El fallo de Múnich representa una advertencia clara para la industria tecnológica: la irresponsabilidad ya no es una carta válida para evadir consecuencias legales. La irrupción de la IA en los procesos informativos debe estar sujeta a controles rigurosos y sistemas de corrección, similar a los mecanismos humanos ya establecidos en ciencia, justicia y empresas.
Este caso es solo el comienzo de un cambio profundo en la manera en la que se gestionan y regulan las tecnologías de inteligencia artificial. Google, ahora más que nunca, debe replantear su estrategia y reconocer la verdad sobre su IA, si es que la propia inteligencia artificial se lo permite.
