Identifica daños de la IA

Para limitar los sesgos, los cambios y las imprecisiones, los modelos de IA requieren la intervención humana, como volver a entrenar los modelos con conjuntos de datos más diversos y continuar ajustándolos con frecuencia. Los humanos también deben tener en cuenta los daños involuntarios asociados al uso de estas herramientas de IA. Examinemos algunos de los tipos de daños que la IA puede causar si se utiliza de forma irresponsable.

Primero está el daño distributivo. El daño distributivo es un daño que se produce cuando el uso o el comportamiento de un sistema de IA niega oportunidades, recursos o información en ámbitos que afectan el bienestar de una persona. Por ejemplo, si las herramientas de IA no proporcionan la misma información a todos, a algunas personas se les puede negar acceso a la educación, sanidad, vivienda justa u otras oportunidades. Tal vez un administrador de la propiedad de un complejo de apartamentos utiliza una herramienta de IA para examinar las solicitudes para posibles inquilinos. Esta herramienta de IA utiliza los nombres y otra información identificatoria sobre estas solicitudes para ayudar a comprobar los antecedentes. Un solicitante se considera de riesgo debido a una baja puntuación crediticia, por lo que se le niega el apartamento y pierde la tasa de solicitud. Más tarde, el administrador de la propiedad se da cuenta de que el software había identificado erróneamente al solicitante había realizado una verificación de antecedentes a la persona equivocada. En este ejemplo, el solicitante ha sufrido un daño distributivo porque se le negó la oportunidad y perdió recursos, afectando a ambos su bienestar. 

Otro tipo de daño que puede causar la IA es el daño a la calidad del servicio. El daño a la calidad del servicio es una circunstancia en la que las herramientas de IA no funcionan tan bien para determinados grupos de personas en función de su identidad. Cuando la tecnología de reconocimiento de voz fue desarrollada por primera vez, los datos de entrenamiento no tenían muchos ejemplos de los patrones del habla de las personas con discapacidades, por lo que los dispositivos a menudo tenían dificultades para analizar este tipo de discurso, pero esta tecnología sigue evolucionando. 

El siguiente tipo de perjuicio es daño de representación, que es el refuerzo de la subordinación de grupos sociales basado en su identidad por parte de una herramienta de IA. Por ejemplo, la IA que impulsa una aplicación de traducción de idiomas puede asociar ciertas palabras con rasgos femeninos o masculinos, y elegir traducciones específicas para cada género con base en esos supuestos. Ahora, esto es perjudicial porque el resultado puede ser la eliminación o alienación de grupos sociales debido a prejuicios incorporados. 

Otro tipo de daño asociado a la IA es el daño al sistema social. Este daño se refiere a los efectos sociales a nivel macro que amplifican las disparidades existentes de clases, poder o privilegio, o causar daños físicos como resultado del desarrollo o el uso de herramientas de IA. A medida que las imágenes generadas por la IA se vuelven más realistas, hay preocupación por la propagación de la desinformación, incluyendo los "Deepfakes". Los "Deepfakes" son fotos o videos falsos generados por la IA de personas reales diciendo o haciendo cosas que no hicieron. Un ejemplo de daño a un sistema social podría ser si un "Deepfake" de un candidato al consejo escolar mostrara a esa persona diciendo algo que no dijo. Si se volviera viral y causara que perdiera las elecciones, eso afectaría las perspectivas de los votantes, la forma en que los padres se sienten acerca de su distrito escolar y la comunidad en general. Porque habría desinformación que se difunde a gran escala, esto sería un daño al sistema social. Afortunadamente, se está creando tecnología nueva para detectar los "Deepfakes". Algunas herramientas de generación de imágenes están colocando marcas de agua digitales en imágenes y videos generados por la IA para indicar quién los creó. Con el tiempo, las falsificaciones deberían volverse más fáciles de identificar para las computadoras. Los usuarios de la IA deben ser conscientes de la dificultad de distinguir entre imágenes generadas por la IA e imágenes reales, y las consecuencias de crear estos "Deepfakes". 

A veces la gente puede compartir información privada con una herramienta de IA que podría ser utilizada erróneamente por otros, como bloquear a alguien de una cuenta en línea o vigilarlo. Estos son ejemplos de daño interpersonal, que es el uso de la tecnología para crear una desventaja para determinadas personas que afecta negativamente sus relaciones con los demás o causa una pérdida del sentido de su sentido de identidad y voluntad. 

Todos estos daños son ejemplos de cómo el uso irresponsable de la tecnología puede afectar negativamente las personas y las comunidades. Si se utiliza sin intervención humana o pensamiento crítico, la IA puede reforzar los prejuicios sistémicos, lo que conduce a una distribución injusta de los recursos, la perpetuación de estereotipos peligrosos, o el refuerzo de dinámicas de poder en curso. La buena noticia es que las herramientas de IA están evolucionando rápidamente. basándose en los comentarios de los usuarios. Por eso, ser consciente del daño potencial y resultados negativos es un primer paso para utilizar la IA de forma responsable. 

Fuente:
Coursera – Fundamentos de IA de Google.