Partiendo de sus conocimientos sobre leyes, Cecilia Celeste Danesi, abogada y especialista en Inteligencia Artificial (IA), derriba mitos sobre la relación entre esta materia, la cultura y el género, al plantear los desafíos que hoy atraviesa la sociedad con las primeras implementaciones de la inteligencia artificial, sus sesgos de interculturalidad y las neurodiversidades, echando luz sobre la ética en la construcción del presente y futuro.​

¿Qué es la inteligencia artificial?, ¿debemos temerles a los algoritmos?, ¿cómo relacionar los sesgos algorítmicos con prejuicios humanos?, ¿cómo combatir los sesgos algorítmicos?, ¿por qué nos preocupa la diversidad en la tecnología?, ¿cómo trasladamos nuestra realidad a los sistemas de IA?, ¿cómo impacta la IA en la cultura? ¿qué nos depara el futuro?, son algunas de las preguntas que desprende la escritora y divulgadora a lo largo de la obra editada por Galerna.

En una entrevista concedida a Radio Con Vos, Danesi disparó sobre un blanco que pocos parecen ver y muchos menos aceptar: “Los algoritmos aprenden de los datos, lo que hacen es reproducir los estereotipos y los prejuicios que tenemos en una sociedad. Entonces, ¿qué va a pasar o cuál va a ser el resultado? En muchos casos, grupos que ya son vulnerables o grupos minoritarios siguen estando marginados. Es decir, esa situación de desigualdad se refuerza”.

Como ejemplo recordó una investigación que la Universidad de Washington realizó recientemente mediante un experimento con el robot CLIP. “Había imágenes de distintas personas y se le indicaba poner en la caja al médico; entonces siempre se ponían personas blancas. Poner el delincuente, entonces se ponían personas latinas o afroamericanos. Así actuaba este robot, con muchísimo prejuicio. Este experimento refleja lo que luego hacen cada uno de los algoritmos que interactúan permanentemente con nosotros. Lo que decían estos investigadores era: este sesgo, este prejuicio nace de los datos con los cuales se entrenó a este robot”, explicó la especialista.

Luego profundizó el concepto al señalar que esas brechas sociales que tenemos hoy en día "se están intensificando con estos algoritmos prejuiciosos".

¿Pero qué es lo que tenemos que hacer para tener una IA ética e inclusiva?, es la preguntas que ella misma hace y también ofrece una respuesta: "Hay que decir que si al sistema le falta información entonces que se frene para que no actúe con sesgos y con estereotipos, porque el daño que tiene esto en la sociedad es muy grande. Puede, por ejemplo, vedar el acceso a una persona a una vacante en una universidad o a un turno médico”.

En cuanto a los límites culturales en la IA planteó que “la tecnología no reconoce fronteras. Es un poco prepotente, llega, se instala y empieza a funcionar. Lo mismo pasa con los sistemas de IA . Entonces pensemos que los sistemas se desarrollan con la ideología, la cultura, la cosmovisión, la identidad del lugar donde se están desarrollando. Con los datos, los parámetros y los valores de ese lugar. Entonces acá lo que es muy importante -es uno de los ejes del libro- es reivindicar la identidad iberoamericana en el desarrollo de la IA. No podemos seguir utilizando sistemas de IA que han sido desarrollados y creados con valores y principios completamente distintos a los nuestros”.

“Seguramente hay países donde las mujeres ocupen otro rol, donde tengan que estar cubiertas, donde haya etnias que acá no hay y viceversa. Entonces esa diversidad tiene que estar presente en los algoritmos, de lo contrario lo que haríamos sería aplicar acá algo que en realidad no existe y que nos terminaría afectando negativamente porque no nos está representando a nosotros, está representando otra cultura”.

Sinopsis

En la era de la Cuarta Revolución Industrial, el poder está en manos de enigmáticos, silenciosos e inexplicables algoritmos que, por el momento, parecerían ser los únicos que están por fuera de la Ley.

Crearon un nuevo imperio, de facto y en manos de unos pocos pero muy poderosos. Bajo este nuevo paradigma, el humano, fuertemente atravesado por la tecnología y el cambio climático, experimenta una crisis de identidad y una reconfiguración de sus cimientos.

“El Imperio de los algoritmos” es un libro que deja al desnudo las consecuencias del nuevo imperio de la inteligencia artificial evidenciando cómo impacta en nuestros Derechos Humanos. Ello lo hace a través de casos reales y cotidianos: redes sociales, reconocimiento facial, sesgos algorítmicos, medioambiente, entre muchos otros.

El libro tiene tres ejes centrales: la perspectiva de género, la reivindicación de la identidad iberoamericana (IA en español) y el humanismo tecnológico. En el último capítulo brinda un mensaje esperanzador a través de claves para el desarrollo de una IA justa e inclusiva que nos permita derrocar su imperio actual. A través de estas páginas, el poder pasará a todos y cada uno de nosotros y nosotras. ​

Lo que viene

Este viernes 2 de diciembre a las 16 El imperio de los algoritmos será presentado por Danesi en el Salón de Actos de la Facultad de Derecho de la UBA junto con el IALAB, un evento interactivo que propone viajar por las disrupciones de las décadas pasadas. 

Del evento también participarán Connie Ansaldi, Mateo Salvatto, Tomas Balmaceda, Juli Schulkin,  Coki Litvin, Lina Anllo, Rafael Parratoro, Agustina Laboureau, Fredi Vivas, entre otros. 

Podés inscribirte a través del link https://docs.google.com/forms/d/e/1FAIpQLSd_vVqlxvTxF84R9_0IXvz_FFEMuUUVN7CQ4TX13XnVT48hJw/viewform?utm_admin=151772