Europa exponse multar a quen use a intelixencia artificial inadecuadamente
SOCIEDADE
A UE ultima a primeira lei do mundo que regulará esta nova tecnoloxía atenta a casos como as fotos das nenas «espidas» de Almendralejo
23 oct 2023 . Actualizado ás 09:43 h.A intelixencia artificial salva vidas, e máis que salvará. A través do procesamiento de inxentes cantidades de datos, detecta e alerta; anticipa o perigo, mantén a salvo. Xeneralizada, apunta con todo xeitos como seria ameaza á privacidade, á estabilidade social e mesmo á democracia: parte do seu potencial xa está en mans de calquera, o que esixe unha urxente regulación, porque manipular imaxes, audios e vídeos con tecnoloxía de última xeración é hoxe sorprendentemente sinxelo e accesible, e se todos podemos facelo —con boas, pero tamén con malas intencións—, tamén podemos, en calquera momento, ser branco de montaxes. Os resultados son extremadamente realistas, invisibles as costuras ao ollo humano que, por defecto, sempre cre o que ve, aínda que sexa algo que ninguén nunca fixo. O caso das mozas de Almendralejo «espidas» con IA foi, por involucrar a menores e pola súa natureza sexual, o xerro de auga fría que fixo espabilar a unha sociedade instalada no «non será para tanto». O é.
«A tecnoloxía avanza moi rápido e vai por diante da sociedade; están a verse cousas que ata hai pouco parecían ciencia ficción e a xente, no día a día, non é capaz de distinguir que hai de verdade ou de mentira en todo isto», sinala José María Alonso, investigador do Centro Singular de Investigación en Tecnoloxías Intelixentes da USC (Citius) e coordinador da rede científica encargada de velar por unha intelixencia artificial fiable en España. Preocúpalle especialmente que estas ferramentas se vexan como un xoguete, que aínda non sexamos plenamente conscientes de que o móbil que levamos no peto é un computador e que tanto o desenvolvemento dun pensamento crítico para distinguir se o que temos en fronte —determinados termos e condicións— é ou non unha ameaza como a abordaxe legal da tecnoloxía vaia, «desgraciadamente», demasiado amodo. A Unión Europea leva máis de dous anos dando forma a unha lei —a primeira do mundo sobre intelixencia artificial— que, como pronto, empezará a implementarse no 2025.
Xa na súa recta final —o obxectivo é acadar un acordo antes de que acabe o ano, coa presidencia española—, a normativa está a ser perfilada en cuestións relativas ao uso de ferramentas de intelixencia artificial generativa. As que incumben ao uso comercial están bastante definidas: rexistros europeos e marcas invisibles que identifiquen o contido creado con IA. Sobre o uso particular, Ibán García do Blanco , eurodeputado do PSOE relator da lei, avanza que se está discutindo a posibilidade de introducir «algún tipo de multa ou sanción para usuarios privados que utilicen estas ferramentas de xeito inadecuado». Advirte que, de momento, só está en debate e lembra que, a escala nacional, hai ferramentas legais suficientes para abordar o uso indebido ou a alteración dunha imaxe persoal.
Na súa opinión, as que deberían estar baixo a lupa son as subministradoras deste tipo de servizos: «Non é de recibo que haxa un motor de acceso gratuíto e sen ningún tipo de control que poida ser utilizado indiscriminadamente por parte de menores para manipular imaxes e que cando sucede unha circunstancia como esa non haxa ningún tipo de sanción para a compaña. Hai que restrinxir dalgún xeito, e aceleradamente, o acceso a este tipo de ferramentas».
Debe prohibirse aos menores de idade o acceso a este tipo de ferramentas?
Aínda que, segundo as súas condicións de uso, ChatGPT está dirixido a maiores de 13 e Bard —a intelixencia artificial de Google— soamente a adultos, ningún tipo de cortafuego impide que calquera, teña a idade que teña, acceda e utilice estas ferramentas. O debate sobre se debería prohibirse ou non para menores de idade está servido e, de feito, a Unión Europea está a contemplar incorporar na súa regulación filtros de idade. Como? A través do regulamento eIDAS, que propón a creación dunha identidade dixital fiable e segura, unha especie de DNI electrónico europeo.
«Eu non son moi partidario de prohibir, porque onde está o límite? —expón José María Alonso, investigador do USC experto en IA—. A que unha persoa é o suficientemente madura ou non para saber se o que está a utilizar pódelle pór ou non en risco a outros ou supor un perigo para si mesma? Ten máis risco unha persoa de 12 anos ou alguén de 70 que nunca utilizou tecnoloxía e que agora ten un teléfono móbil porque llo deron os seus fillos para que poida chamar?».
Francia, contra as montaxes
O Goberno francés non só ten claro que hai que regular especificamente o uso lesivo da IA, senón que xa se puxo a iso. En mans dos seus deputados está desde hai xa días a «lei de seguridade e regulación do espazo dixital», impulsada polo Executivo de Macron, que ademais de tratar de controlar o acceso de menores a páxinas pornográficas persegue sancionar as montaxes de carácter sexual creados con algoritmo. Contempla impor multas á difusión e tamén á creación deste tipo de contidos.
O dicionario da IA
Un novo mundo require unha nova linguaxe. Estes son os conceptos básicos relacionados coa intelixencia artificial que convén coñecer:
Bot: abreviatura de robot. Programa informático deseñado para realizar automaticamente, pola súa conta, tarefas en Internet ou noutros sistemas dixitais. A miúdo utilizan algoritmos de procesamiento de linguaxe natural para comunicarse cos humanos.
Chatbot: un bot conversacional. Programa deseñado para interactuar e comunicarse cos usuarios —xeralmente a través de texto ou voz—, para brindar respostas automáticas a preguntas ou realizar tarefas específicas. As compañas adoitan integralos nos seus servizos de atención ao cliente
ChatGPT: o asistente máis listo. Sistema de IA deseñado para comprender e xerar texto de xeito coherente e contextualmente relevante en conversacións escritas. Aliméntase dunha vasta variedade de datos de Internet para aprender a linguaxe e o coñecemento humano, o que lle permite responder preguntas e manter conversacións tal e como o faría unha persoa. A medida que interactúa co usuario vai «aprendendo» e adaptándose a novas situacións. É, de momento, unha ferramenta gratuíta e de libre acceso.
Cheapfake: Deepfake barato. Imaxe manipulada, editada ou descontextualizada, difundida co obxectivo de estender contos. A súa factura é descoidada, polo que non require de tecnoloxía avanzada, pero ao ser masiva —están por todas partes— é igualmente eficaz.
Deepfake: imaxe falsa realista. Fotos ou vídeos falsos, que ao estar alterados con sofisticados algoritmos de aprendizaxe profunda, parecen auténticos. Adoita usarse para crear imaxes de persoas facendo cousas que nunca fixeron. Tamén fai referencia á tecnoloxía ou a técnica que se usa para conseguir estes resultados.
Deepvoice: voz humana sintéctica. Falsificación da voz. A tecnoloxía adéstrase con arquivos sonoros, de Internet ou captados, e é capaz de imitar á perfección o ton dicindo o que se lle pide.
Os «deepfakes», punta de iceberg ao lado máis escuro da intelixencia artificial
A dos deepfakes —fotografías, vídeos ou audios manipulados— non é a única ameaza que gaña músculo nesa «cidade sen lei» que, segundo o experto en Ciencias da Computación Brais Cancela, é o ecosistema algorítmico nestes momentos. É a que máis ruído fai, porque é capaz de tomar formas diversas e acadar dimensións inimaxinables, da montaxe sexual —nove de cada dez— ao vídeo falso con presentadora coñecida recomendando investimentos que resultan ser estafas ou a chamada con voz clonada dun fillo pedindo un Bizum [ingreso de diñeiro a través do teléfono]. Pero hai máis.
Noticias falsas
«Unha información publicada en Internet e difundida a través das redes ou os servizos de mensaxería pode ser falsa porque alguén cometeu un erro ou porque alguén a compartiu coa intención de manipular e desestabilizar, ao que se suma que coa forma na que hoxe se consome información as posibilidades de ser manipulados son moi elevadas —pon en contexto José María Alonso, profesor no grao de Enxeñería Informática e no máster de intelixencia artificial da USC—. A xente non se fía dos medios tradicionais, infórmase en fontes alternativas con contidos sen verificar, o que supón unha quebra do sistema». Se a esta crise de confianza súmaselle unha tecnoloxía capaz de sementar automaticamente de contido falso un campo infinito, como é Internet, a desestabilización social está servida.
A mera reflexión sobre o problema non é suficiente, coinciden os expertos; fan falta ferramentas para atallalo. Borja Adsuara, especializado en Dereito Dixital, apela a un valor constitucional: «Se ti difundes viralmente de forma artificial cunha rede de bots unha noticia falsa estás a perturbar ou adulterando o pluralismo informativo, porque estás a bombardear mañá, tarde e noite con noticias falsas que, a base de ser repetidas, calan na xente. Para atacar isto habería que desarticular as redes de bots que, ademais, como son máquinas, non teñen dereitos fundamentais, co cal ninguén che pode dicir que lle estás censurando».
Propiedade intelectual
A intelixencia artificial generativa supón ademais unha ameaza para os autores e creadores de contido complicada de abordar, porque estes sistemas producen textos ou imaxes a partir doutros textos e imaxes —canto de orixinalidade hai no resultado inédito e canto de copia?— e porque se as máquinas son capaces de superar o enxeño humano, para que a creatividade humana. Admite a complexidade da primeira cuestión Adsuara, que explica que non hai obra derivada porque non hai unha transformación dunha obra preexistente. «A intelixencia artificial adéstrase con millóns de obras para xerar outras novas, ninguén pode recoñecer a súa obra preexistente; é moi difícil de probar —amplía—. O que defenden as editoriais é que non fai falta probalo, que a compaña dona da IA debería pagar só polo feito de usar un determinado fondo editorial para adestrar ao seu sistema. Aínda así é difícil demostrar que se usou o teu fondo editorial, así que creo que o que pedirán é un canon. Como todas as obras son susceptibles de ser utilizadas sería un canon xenérico dun sector a outro». Quitarannos estes programas o traballo aos que escribimos? «Ao contrario —asegura, convencido, o experto—. Será unha oportunidade de reivindicar a autoría».