LEER REVISTA
X
especiales
Gemini, TikTok y el sesgo en la Inteligencia Artificial
30 de Abril del 2024 | Por Eilen Legorreta

Por: Walter Trujillo Díaz

En fechas recientes, Google ha decidido no quedarse atrás en la carrera de la inteligencia artificial en el ámbito comercial (porque es bien sabido que lleva ya varios años haciendo desarrollos internos que no han salido a la luz), y a finales del año pasado hizo el anuncio de Gemini (anteriormente llamado Bard), el cual busca ser un competidor directo de ChatGPT-4 de OpenAI, ya que es un modelo de lenguaje grande multimodal; es decir, que es un aplicativo que puede procesar y combinar diferentes tipos de datos, incluyendo texto e imágenes.

Sin embargo, las cosas no salieron como esperaba la empresa fundada en Menlo Park. Hace unas semanas, se lanzó una nueva función de generación de imágenes dentro de Gemini, que incluía la capacidad de crear imágenes de personas. Lamentablemente, esta función quedó muy lejos de cumplir con las expectativas. Un usuario solicitó a Gemini que generara imágenes de “Un soldado alemán de 1943”; Gemini, en su intento de mostrar diversidad, creó imágenes de soldados alemanes con una variedad de etnias, incluyendo afrodescendientes, lo que resultó en una representación históricamente inexacta y disparatada.

Ante la situación, la compañía anunció que de forma inmediata estaban trabajando para abordar los problemas recientes con la función de generación de imágenes de Gemini, y que mientras lo hacía iban a pausar la generación de imágenes de personas para lanzar una versión mejorada pronto.

Podríamos quedarnos hasta aquí como si fuera una más de las anécdotas que suceden en el mundo corporativo, pero vale la pena tocar la esencia de lo que sucedió: el sesgo. De forma general, el sesgo es una tendencia sistemática que puede influir en nuestras decisiones, percepciones e interpretaciones, basándose en factores como la cultura, la experiencia previa o los estereotipos.

Específicamente en la esfera de la inteligencia artificial (IA), este sesgo se refiere a distorsiones en los datos o algoritmos que pueden producir resultados parciales o inexactos. Por ejemplo, si un algoritmo de reconocimiento facial se entrena principalmente con imágenes de personas de un grupo étnico específico, puede tener dificultades para reconocer con precisión a personas de otros grupos étnicos. Además, los algoritmos mismos pueden estar diseñados de manera que introduzcan sesgos, ya sea de forma consciente o inconsciente por parte de los desarrolladores. Esto puede ocurrir debido a la elección de ciertos parámetros, la formulación de reglas o la manera en que se ponderan ciertas características.

De igual forma, el contexto en el que se aplica la IA también puede introducir sesgos. Por ejemplo, un algoritmo de contratación basado en IA puede verse influenciado por sesgos existentes en el proceso de selección de personal. En herramientas como Gemini, el sesgo puede manifestarse de diversas maneras. Por ejemplo, los algoritmos pueden interpretar de manera sesgada las descripciones textuales, lo que resulta en imágenes que reflejan estereotipos o prejuicios presentes en los conjuntos de datos con los que esa herramienta realizó su entrenamiento y aprendizaje

En plataformas como TikTok, que desde hace varios meses está en la mira del gobierno norteamericano, una de sus principales críticas y a la vez una de las varias razones que argumenta nuestro vecino del norte para prohibirla (aunque sabemos que la principal es el supuesto vínculo de la empresa con el gobierno chino) es precisamente el sesgo que influye en la distribución de contenido de varias maneras. Los algoritmos que TikTok aplica determinan qué contenido se muestra a los usuarios, y pueden estar sesgados ciertos tipos de contenido hacia ciertos perfiles de usuarios, limitando la diversidad de perspectivas que pueden ser presentadas. Asimismo, los algoritmos de agrupación de usuarios pueden contribuir a la formación de burbujas de filtro, donde los usuarios solo ven contenido que coincide con sus intereses existentes, lo que puede aumentar la polarización; por último, se puede generar filtración de contenido ya que los algoritmos de moderación pueden estar sesgados, lo que resulta en una censura injusta o una promoción desproporcionada de ciertos temas.

Detectar el sesgo en las redes sociales o en otras aplicaciones que hacen uso de la inteligencia artificial puede ser desafiante, pero es posible. Ser conscientes de que el sesgo puede estar presente en cualquier plataforma y que la información que se nos presenta puede no ser completamente neutral es el primer paso. De igual forma, consumir información de una variedad de fuentes de noticias y opiniones que representen diferentes perspectivas puede ayudar a contrarrestar el sesgo; por tanto, no aceptes la información que se presenta en las redes sociales o en otras aplicaciones con inteligencia artificial de manera automática: hay que analizarla críticamente y cuestionar su veracidad.

Finalmente, es crucial participar en la conversación para crear conciencia, abogando por la transparencia y la rendición de cuentas por parte de las empresas que desarrollan estos aplicativos, para que estén continuamente monitoreando el servicio que ofrecen y en el contenido en línea que distribuyen. No olvidemos que tenemos el poder de mover la balanza hacia un mejor futuro digital.

DÉJANOS TUS COMENTARIOS
ESTO TE VA A INTERESAR
especiales
15/06/2024
Ven, Aprende e Innova", el Proptech Latam Summit WEEK 2024
Del 3 al 7 de junio de 2024, la Ciudad de México se convertirá en el epicentro del Real Estate tecnológico con la celebración del Proptech Latam Summit WEEK 2024. Organizado por el equipo de Proptech Latam Platform, esta cita anual representa la plataforma líder en Networking, Educación y Contenidos...
SEGUIR LEYENDO
+
especiales
15/06/2024
Riesgos del transporte de mercancías en el nearshoring
En las últimas décadas, con el propósito de extender globalmente sus relaciones comerciales nuestro país ha conformado una red de 14 Tratados de Libre Comercio con 50 países (TLCs), además de 30 Acuerdos para la Promoción y Protección Recíproca de las Inversiones (APPRIs) con 31 países o regiones administrativas, y...
SEGUIR LEYENDO
+
especiales
15/06/2024
Gemini, TikTok y el sesgo en la Inteligencia Artificial
Por: Walter Trujillo Díaz En fechas recientes, Google ha decidido no quedarse atrás en la carrera de la inteligencia artificial en el ámbito comercial (porque es bien sabido que lleva ya varios años haciendo desarrollos internos que no han salido a la luz), y a finales del año pasado hizo el...
SEGUIR LEYENDO
+
AGREGADOS RECIENTEMENTE
especiales
29/05/2024
Ven, Aprende e Innova", el Proptech Latam Summit WEEK 2024
Del 3 al 7 de junio de 2024, la Ciudad de México se convertirá en el epicentro del Real Estate tecnológico con la celebración del Proptech Latam Summit WEEK 2024. Organizado por el equipo de Proptech Latam Platform, esta cita anual representa la plataforma líder en Networking,... LEER MÁS
ferretera
07/06/2024
Expo Nacional Ferretera expande su alcance a la Ciudad de México para 2025
El sector ferretero en México, un pilar crucial de la economía nacional, se está expandiendo aún más con el anuncio de la expansión de Expo Nacional Ferretera a la Ciudad de México. Esta feria, que ha sido un punto de encuentro emblemático para el sector durante 35... LEER MÁS
electrica
23/05/2024
Agrivoltaica, la fusión de energía y agricultura
Por: Roberto Dmínguez Con la instalación de módulos fotovoltaicos en campos de cultivo sobre estructuras más elevadas para el aprovechamiento y respeto del espacio inferior de cultivos y pastoreo de animales, con el uso de paneles que dejen pasar suficiente radiación solar para que los cultivos ubicados... LEER MÁS
construccion
03/06/2024
Vanguardia en diseño arquitectónico integrado con análisis estructural
La eficiencia en el diseño arquitectónico ha dado un paso adelante gracias a ArchiCAD, el software de modelado y diseño arquitectónico que continúa marcando la pauta en la industria. Reconocido por su capacidad para optimizar recursos, esfuerzos y tiempo, ArchiCAD se mantiene a la vanguardia al ofrecer... LEER MÁS
Revista De Preferencia, revista de presencia ferretera, eléctrica y construcción Revista De Preferencia, revista de presencia ferretera, eléctrica y construcción Revista De Preferencia, revista de presencia ferretera, eléctrica y construcción Revista De Preferencia, revista de presencia ferretera, eléctrica y construcción Revista De Preferencia, revista de presencia ferretera, eléctrica y construcción Revista De Preferencia, revista de presencia ferretera, eléctrica y construcción
Revista De Preferencia, revista de presencia ferretera, eléctrica y construcción
INICIO CONÓCENOS ARTÍCULOS EVENTOS CONTACTO LEER REVISTA
Copyright ® Revista De Preferencia 2024. Todos los derechos reservados. Sitio desarrollado por Montes de Oca Publicidad