Los algoritmos usados por los gigantes tecnológicos no siempre son justos

Los algoritmos
Todas estas razones preocupan que los algoritmos usados por los gigantes tecnológicos no sean siempre justo.

Normal
0

21

false
false
false

ES-VE
X-NONE
X-NONE

/* Style Definitions */
table.MsoNormalTable
{mso-style-name:»Tabla normal»;
mso-tstyle-rowband-size:0;
mso-tstyle-colband-size:0;
mso-style-noshow:yes;
mso-style-priority:99;
mso-style-parent:»»;
mso-padding-alt:0cm 5.4pt 0cm 5.4pt;
mso-para-margin-top:0cm;
mso-para-margin-right:0cm;
mso-para-margin-bottom:10.0pt;
mso-para-margin-left:0cm;
line-height:115%;
mso-pagination:widow-orphan;
font-size:11.0pt;
font-family:»Calibri»,»sans-serif»;
mso-ascii-font-family:Calibri;
mso-ascii-theme-font:minor-latin;
mso-hansi-font-family:Calibri;
mso-hansi-theme-font:minor-latin;
mso-fareast-language:EN-US;}

A menudo operan dentro de lo conocido como “cajas negras”

Un informe de expertos dice que lo que la gente hace y ve en la web es producto de los algoritmos. Para que lo entendamos mejor. Se encuentran en el mecanismo oculto responsable de lo que vemos en el muro de Facebook; las sugerencias que nos muestras Netflix o el responsable de lo que aparece cuando introducimos una palabra en Google. Incluso pueden ser responsables de que seamos seleccionados o rechazados para un trabajo.

(Lee también: Photo Book, el servicio de impresión de fotos de Google)

Todas estas razones preocupan que los algoritmos usados por los gigantes tecnológicos no sean siempre justo. Los errores en los sistemas de reconocimiento facial es uno de los ejemplos de ello.

Por lo general los algoritmos trabajan dentro de lo que se conoce como “caja negra”. Esto significa que ni siquiera sus dueños pueden darse cuenta como están tomando esas  decisiones. Es por ello que algunas compañías tecnológicas, como IBM, están tratando de buscar soluciones a ese problema. Este gigante tecnológico presentó un nuevo servicio de software que “detecta automáticamente los sesgos” (de los algoritmos).

Microsoft es también una de las compañías que trabaja en eso. En su conferencia anual de desarrolladores anuncio que está trabajando en una herramienta para detectar sesgos en sus algoritmos.

Facebook después del escándalo de Cambridge Analytica declaró estar probando una herramienta para determinar si sus algoritmos detectan errores. Asimismo se aplica a Google. Este lanzó un sistema para explicar cómo funcionan sus modelos de aprendizaje automático.

Los algoritmos. No siempre es lo suficientemente diversa

Los algoritmos
Facebook después del escándalo de Cambridge Analytica declaró estar probando una herramienta para determinar si sus algoritmos detectan errores.

Al parecer el problema radica en que la base de datos que se emplea para entrenar a los algoritmos no siempre es diversa.

Joy Boulamwini fundo a Liga de la Justicia Algoritmica en el 2016. En ese tiempo descubrió que un sistema de reconocimiento facial notaba su rostro si lo cubría con una máscara blanca. Un año antes Google tuvo que disculparse porque su clasificación de fotos confundió las imágenes de personas negras con gorilas. Y todo producto de sus algoritmos.

(Lee también: Las búsquedas de Google, dependen del prestigio de las páginas)