La inteligencia artificial (IA) ha captado una enorme atención tanto en el mercado como en los medios de comunicación en los últimos años. Esta tecnología ofrece oportunidades emocionantes para el progreso público al mejorar la capacidad humana de integrar, analizar y aprovechar la información. Sin embargo, también plantea nuevas capas de incertidumbre y riesgo. La IA está cambiando el panorama del mercado, con empresas que buscan proporcionar y aprovechar elementos esenciales de los sistemas de IA, como datos y hardware, lo que abre una ventana de oportunidad para que las empresas se apoderen del poder en este ámbito tecnológico. Además, la IA está cambiando fundamentalmente la forma en que operamos en nuestras vidas diarias, lo que puede ser inquietante, especialmente cuando los daños causados por ese cambio son tangibles y afectan a los consumidores comunes.
Preocupaciones sobre cómo se construye la IA: Datos, datos y más datos
Los modelos de IA líderes en la actualidad requieren grandes cantidades de datos para su entrenamiento. El poder y la amplitud de estos modelos tienen implicaciones tanto para la protección del consumidor como para la competencia. Hay dos áreas de preocupación destacadas por los consumidores en relación a la privacidad del consumidor y los riesgos derivados de la consolidación del poder:
- Derechos de autor y propiedad intelectual: Algunos informes mencionan preocupaciones sobre la infracción de derechos de autor debido a la recopilación de datos de la web, y muchos consumidores expresan su preocupación de que el contenido que publican en la web pueda ser utilizado para entrenar modelos que luego podrían reemplazar su capacidad de ganarse la vida creando contenido. La agencia continúa trabajando para comprender cómo este problema afecta a las comunidades.
- Datos biométricos y personales: Otros informes mencionan el uso de datos biométricos, como grabaciones de voz, para entrenar modelos o generar huellas de voz (equivalentes a las huellas dactilares pero para las características únicas del habla de una persona). Un consumidor expresó su preocupación por seguir llamadas de soporte al cliente después de escuchar un mensaje que indicaba que la llamada podría ser grabada, ya que temía que la grabación pudiera ser utilizada para entrenar una IA utilizando su voz.
Preocupaciones sobre cómo funciona y se interactúa con la IA: Sesgos, inexactitudes y la necesidad de hablar con un humano
Los modelos de IA son susceptibles a sesgos, inexactitudes, alucinaciones y mal rendimiento. La precisión de los modelos de IA depende de varios factores, incluidos los datos de entrada, las técnicas de entrenamiento y el contexto de implementación. Además, las empresas diseñan aplicaciones para ser eficientes (usando menos recursos pero generando más resultados) con el fin de optimizar la escalabilidad y las ganancias. Esto a menudo implica reducir el número de personas involucradas, dejando a los consumidores interactuar con sus reemplazos de IA. Los consumidores expresaron preocupación y frustración acerca de estos elementos:
- Sesgos e inexactitudes: Algunos informes mencionan los sesgos del software de reconocimiento facial, incluida la incapacidad de los clientes para verificar su identidad debido a la falta de representación demográfica en el modelo. En otro informe, un consumidor afirma que le pidió a una interfaz de IA generativa basada en chat el número de teléfono del servicio al cliente del banco que emite su tarjeta de crédito y recibió el número de un estafador que se hacía pasar por el banco. La FTC ha estado monitoreando estos problemas y en un informe al Congreso en 2022, advirtió sobre los daños causados por los sesgos e inexactitudes de la IA en los productos.
- Limitadas vías de apelación y mal servicio al cliente: Otra preocupación frecuentemente mencionada es la falta de opciones para apelar decisiones tomadas por productos que utilizan IA. En un informe, un contratista de una plataforma de entrega dijo que tuvo problemas para ponerse en contacto con personas reales en caso de que un algoritmo decidiera expulsarlos de la plataforma. También hay muchos informes de usuarios regulares de productos que creen que fueron suspendidos o prohibidos por error por una IA sin la posibilidad de apelar a un humano. Además, hay numerosas quejas de consumidores que no pueden comunicarse con una persona para quejarse del servicio al cliente o cancelar sus suscripciones y quedan atrapados tratando de comunicarse con bots de servicio al cliente impulsados por IA.
Preocupaciones sobre cómo se aplica la IA en el entorno real: Mal uso, fraudes y estafas
Con la sofisticación cada vez mayor de los modelos de lenguaje, los sistemas de generación de imágenes y más, cada vez es más difícil distinguir entre humano y máquina. Los productos de IA podrían ser utilizados por actores malintencionados para aumentar la escala o sofisticación de estafas existentes, otro problema sobre el cual la FTC ha escrito anteriormente.
En el entorno del fraude en línea, esto puede hacer que los consejos comunes de ciberseguridad sean menos efectivos para la mayoría de los consumidores. Los consumidores presentaron varias quejas sobre estafas y fraudes que creían que podrían estar impulsados por IA:
- Estafas, fraudes y uso malicioso: Algunos informes se preocupan de que los correos electrónicos de phishing sean difíciles de detectar a medida que los estafadores comienzan a redactarlos con productos de IA generativos y desaparecen los errores de ortografía y gramática que antes delataban las estafas. Otros expresan preocupaciones sobre cómo la IA generativa puede usarse para realizar sofisticadas estafas de clonación de voz, en las que se utilizan las voces de familiares o seres queridos para extorsionar financieramente. Algunos incluso afirman haber experimentado esto ellos mismos.
De manera similar, los estafadores pueden utilizar productos de chatbot impulsados por IA para comunicarse con más personas a un menor costo, lo que podría aumentar el poder de las estafas románticas y el fraude financiero. Muchos informes describen cómo fueron engañados por este tipo de estafas y creen que los mensajes provienen de un modelo de IA.
La FTC está vigilando de cerca el mercado y la conducta de las empresas a medida que surgen más productos de IA. Nuestro objetivo es comprender y prevenir los daños que los consumidores y los mercados pueden enfrentar a medida que la IA se vuelve más ubicua.
Consultas habituales
- ¿Qué es la inteligencia artificial?
- ¿Cuáles son algunas preocupaciones comunes sobre la inteligencia artificial?
- ¿Cómo puede la inteligencia artificial afectar a los consumidores?
La inteligencia artificial es una rama de la informática que se enfoca en desarrollar sistemas y programas capaces de realizar tareas que normalmente requieren inteligencia humana. Estos sistemas pueden aprender, razonar, reconocer patrones y tomar decisiones basadas en datos.
Algunas preocupaciones comunes sobre la inteligencia artificial incluyen la privacidad del consumidor, el sesgo en los sistemas de IA, la falta de transparencia en cómo funcionan los algoritmos de IA y el potencial de mal uso de la tecnología por parte de actores malintencionados.
La inteligencia artificial puede afectar a los consumidores de varias maneras, desde la recopilación y uso de datos personales hasta la toma de decisiones automatizadas que pueden tener un impacto en la vida de las personas. También existe el riesgo de que los sistemas de IA sean sesgados o inexactos, lo que puede llevar a decisiones injustas o perjudiciales para los consumidores.
La inteligencia artificial tiene el potencial de mejorar nuestras vidas de muchas maneras, pero también plantea preocupaciones y riesgos significativos. Es importante que los consumidores estén informados sobre cómo se construye, funciona y aplica la IA para poder tomar decisiones informadas y exigir transparencia y responsabilidad a las empresas y reguladores. La FTC está comprometida en comprender y abordar los problemas relacionados con la IA para proteger los derechos y la seguridad de los consumidores.
Si quieres conocer otras notas parecidas a Preocupaciones de la inteligencia artificial: lo que debes saber puedes visitar la categoría Inteligencia.