(CONFER · 04/04/24) A l’era digital en la que ens trobem, la Intel·ligència Artificial (IA) s’ha convertit en una arma de doble fulla. D’una banda, resulta una eina poderosa que impulsa nombroses innovacions en camps tan diversos com l’atenció mèdica, la seguretat o l’entreteniment. Preguntant a Siri o Alexa, dialogant amb Xat-GPT, utilitzant Copilot en Word o PowerPoint, constatem com la IA està present en el nostre dia a dia i ens aporta grans avantatges.
No obstant això, a mesura que la IA continua avançant, també sorgeix una preocupació creixent sobre els riscos que presenta el seu mal ús, especialment en relació amb l’abús de persones.
Riscos de la intel·ligència artificial
Un dels riscos més evidents del mal ús de la IA és la seva capacitat per a amplificar i perpetuar la discriminació i els biaixos existents a la societat. Els algorismes de IA aprenen de conjunts de dades històriques, que sovint reflecteixen prejudicis arrelats, com el racisme o el sexisme. Si aquests biaixos no s’aborden adequadament durant el desenvolupament dels sistemes de IA, poden portar a decisions discriminatòries i perjudicials.
A més, la IA pot ser utilitzada per a vigilar, controlar, manipular i enganyar a les persones de maneres cada vegada més sofisticades. Els sistemes de IA poden analitzar grans quantitats de dades sobre el comportament i les preferències de les persones per a crear perfils detallats i personalitzats.
Aquests perfils es poden utilitzar per a dirigir publicitat específica o fins i tot per a influir en les opinions i decisions de les persones de manera subtil però efectiva, la qual cosa planteja preocupacions sobre la manipulació de la informació i el dret a la privacitat.
A més d’aquests riscos, la IA també pot ser utilitzada per a crear contingut fals i enganyós, conegut com deepfakes, que pot ser utilitzat per a difamar, extorquir o manipular a les persones.
Establir estàndards ètics clars
Els avanços en la generació d’imatges i el processament del llenguatge natural han fet que sigui cada vegada més difícil distingir entre contingut real i manipulat, la qual cosa planteja desafiaments significatius per a la veracitat i la confiança en la informació. Són ja diversos els casos que hem trobat d’ús d’aplicacions que generen imatges de nus a partir de fotografies reals, o IA entrenades per a crear continguts d’abús sexual infantil.
Per a abordar aquests riscos, és crucial que els desenvolupadors, reguladors i usuaris de IA treballin junts per a establir estàndards ètics i legals clars que protegeixin els drets i la dignitat de les persones. Es fa, per tant, necessària una proposta de algorética que posi en el centre a la persona humana davant tota decisió.
A més, és important fomentar una major consciència pública sobre els riscos i desafiaments associats amb la IA, així com promoure una cultura d’ús responsable i ètic d’aquesta tecnologia. Pensem en les oportunitats i riscos de la IA en l’educació, en la presa de decisions, en l’automatització de tasques o en el món laboral.
Vivim una etapa apassionant de la història en la que no podem ser aliens als camins que ens obre la IA. Però no oblidem que estem davant una fulla de doble tall, capaç del millor i del pitjor.
Text: Antonio Carrón de la Torre, OAR
Llegeix més a ‘SomosCONFER’ nº43
