Activista conservador demanda a Google por afirmaciones difamatorias de sus chatbots de inteligencia artificial

El activista conservador estadounidense Robby Starbuck interpuso una demanda contra Google en el tribunal del estado de Delaware, alegando que los sistemas de inteligencia artificial del gigante tecnológico generaron contenido “escandalosamente falso” en su contra. Según el documento judicial, los chatbots de Google, incluida la versión Bard, respondían a consultas de usuarios vinculando a Starbuck con acusaciones de abuso sexual de menores, agresión conyugal y participación en disturbios, sin que tales hechos tuvieran base alguna.

La demanda detalla que, en 2023, Bard habría asociado erróneamente a Starbuck con el nacionalista blanco Richard Spencer y citado fuentes inexistentes para sustentar la afirmación. Posteriormente, en agosto, el chatbot Gemma habría difundido afirmaciones falsas acerca de agresión sexual basadas también en fuentes ficticias, sostiene la denuncia. Starbuck añade que algunas personas le habrían abordado tras leer estas afirmaciones, lo que podría exponerle a riesgos personales mayores.

Por su parte, Google, a través de su portavoz, reconoció que gran parte de las declaraciones se debieron a “alucinaciones” de sus modelos de lenguaje y que la empresa identificó y trabajó para corregir esos errores durante 2023. El comunicado señalaba que “si eres lo suficientemente creativo, puedes hacer que un chatbot diga algo engañoso”.

La demanda también menciona que Starbuck inicio acciones similares contra Meta Platforms en abril, cuya disputa culminó en un acuerdo de agosto que incluyó su asesoría a la empresa en materia de inteligencia artificial. En esta ocasión, la demanda presentada contra Google solicita al menos 15 millones de dólares en daños por los perjuicios alegados.

La presentación de la demanda se produce en un contexto de creciente atención al potencial de los modelos de inteligencia artificial para generar y difundir desinformación, y mientras la sociedad debaten los mecanismos de transparencia y rendición de cuentas en estas tecnologías.

Vea texto de la demanda.