• El algoritmo dentro de la tecnología tiene el poder de analizar grandes cantidades de información en poco tiempo.
• Su principal uso se puede observar en las redes sociales para identificar material potencialmente dañino.
• Un extraño caso de unas fotografías de un padre de familia enviadas al doctor de su hijo fueron calificadas de manera errónea como pornografía.

Los algoritmos utilizados por los sistemas de Inteligencia Artificial han revolucionado el mundo actual. Su mayor beneficio es que permiten analizar una cantidad inmensa de información en menos de un segundo. Pero al igual que cualquier innovación son susceptibles a los errores. Tal es el caso de unas fotografías recibidas por un doctor de parte de uno de sus pacientes y las cuales fueron calificadas como pornografía.

Los beneficios de la tecnología

En ese tenor, donde más se aplican estos filtros es en los correos electrónicos. El objetivo es identificar posibles imágenes que sean dañinas o infrinjan las reglas de los servidores. Si se detecta alguna sospecha de inmediato el mensaje es enviado a la carpeta de spam para la protección de los usuarios.

Esta herramienta también se utiliza en portales como Youtube para revisar todos los videos que son integrados a la plataforma. Tan solo para tener una idea, cada minuto son emitidas 694 mil horas de vídeo. Por lo tanto, sería imposible para cualquier equipo humano poder ver esa cantidad de material.

Con esto en mente, mediante algoritmos es posible analizar todo el material de la plataforma en minutos para detectar desnudos, lenguaje ofensivo o cualquier otro aspecto que atente contra las reglas de la empresa.

Aunque parece una medida segura y en la amplia mayoría de las ocasiones funciona, también hay casos en donde el algoritmo falla porque no es perfecto. No tiene la capacidad para pensar y razonar cada situación de forma individual.

La tecnología no es perfecta

Todo esto conduce a un extraño caso de pornografía que involucra a un doctor y el cual fue publicado en The New York Times. Fue en febrero de 2021 cuando un padre de familia en Estados Unidos observó que su hijo tenía unas marcas extrañas en la ingle.

De manera natural solicitó el apoyo de un médico pero debido a que la pandemia se encontraba en uno de sus puntos más peligrosos tuvo miedo de acudir a un hospital. Por lo mismo, la solución fue consultar a un pediatra a través de internet. Las consultas virtuales han visto un importante aumento por ser una alternativa segura y sin riesgos porque no requieren de contacto físico.

El siguiente paso fue enviar por correo electrónico unas fotos de la ingle afectada del niño al pediatra. El problema fue que el algoritmo de Google, empresa propiedad de Gmail, identificó las imágenes como pornografía y de inmediato bloqueó la cuenta.

La compañía utilizó como argumento que se trataba de un caso de abuso sexual infantil. Además también bloqueó el teléfono del padre de familia porque lo tenía asociado a su correo.

Fue necesario emprender un juicio legal que se prolongó más de un año hasta que finalmente se comprobó que todo se generó por una falla del algoritmo. Las fotos enviadas al doctor no tenían relación con pornografía sino que solo fueron imágenes necesarias para atender la infección que tenía el menor.

A partir de lo anterior se puede concluir que la tecnología es una poderosa herramienta pero no es perfecta. En algunos casos ofrece grandes beneficios pero siempre es necesario el apoyo humano para evitar que situaciones como la aquí descrita se repitan.

También lee:

¡Logro médico! Así funciona el primer algoritmo que predice la aparición de la artritis reumatoide

Algoritmo logra detectar la retinopatía del prematuro con mayor eficacia que un humano

Doctor mexicano elabora algoritmo para casos con sospecha de viruela del mono