Comprende los sesgos de la IA

La IA es una herramienta inspiradora que permite vivir nuevas experiencias, oportunidades y logros. Por ejemplo, la IA se utiliza para ayudar a los automóviles autoconducidos a detectar peatones en una carretera muy transitada y predecir la presencia y gravedad de una enfermedad. Sin embargo, el hecho de que la IA sea beneficiosa no es un hecho. Como usuario consciente de los sesgos potenciales de la IA y sus limitaciones, puedes ayudar a garantizar resultados responsables en lugar de perjudiciales.

Los modelos de IA se entrenan con datos creados por humanos, por lo que se componen de valores y están sujetos a sesgos. A veces también pueden producir resultados inexactos. Dado que un modelo de IA se entrena con un conjunto de datos para reconocer patrones y realizar tareas, el modelo es tan bueno como los datos que recibe. El resultado de la IA puede verse afectado tanto por el sesgo sistémico como por el sesgo de los datos. Exploremos ahora cada uno de ellos. 

En primer lugar, el sesgo sistémico es una tendencia mantenida por las instituciones que favorece o perjudica determinados resultados o grupos. El sesgo sistémico existe dentro de los sistemas sociales como sanidad, derecho educación, política, etc. Aunque las personas que diseñan y entrenan un modelo de IA piensan que están utilizando datos de alta calidad, los datos ya pueden estar sesgados porque los seres humanos están influenciados por sesgos sistémicos. El sesgo de los datos es una circunstancia en la que los errores o perjuicios sistémicos conducen a información injusta o inexacta, dando lugar a resultados sesgados. Tal vez estés desarrollando una presentación de trabajo, le pides a un generador de imágenes de IA que cree una foto de un director general. Todas las imágenes generadas parecen ser hombres blancos. Basándonos en este resultado, se podría suponer que todos los directores generales son hombres blancos. Obviamente, estos datos están sesgados. Aun así, cuanto más se entrena un modelo de IA con imágenes de hombres blancos como directores generales, más probable es que estos modelos generen resultados igualmente sesgados. Por lo tanto, cuanto más representativos sean los datos de una mayor variedad de personas, más integrador será el resultado de la generación de imágenes. 

Al igual que los modelos de IA reflejan los sesgos de los datos utilizados para entrenarlos, también reflejan los valores de las personas que los diseñan. En otras palabras, los modelos de IA están cargados de valores. Por ejemplo, puede que un ingeniero de IA quiera ayudar a crear formas más sustentables de generar energía. El ingeniero podría utilizar la IA para construir una herramienta que permite a los proveedores de energía aumentar su uso de recursos renovables. En este caso, la herramienta de IA se creó a partir de la idea de que la sociedad puede y debe aprovechar al máximo la energía solar y las fuentes de energía eólica, que es un reflejo de los valores del ingeniero. Este enfoque significa que la herramienta de IA no es intrínsecamente neutral desde el punto de vista de los valores. Otras personas pueden tener valores diferentes sobre la generación de energía que no se reflejan en esta herramienta de IA concreta. 

Como la mayoría de los aspectos de la tecnología emergente, la IA no es un sistema perfecto. En la actualidad, ofrece tanto oportunidades y retos, por lo que su uso responsable requiere un pensamiento crítico y la comprensión de cómo los datos pueden estar sesgados. 

Fuente:
Coursera – Fundamentos de IA de Google.