La Comisión Federal de Comercio anunció el martes un nuevo esfuerzo de aplicación de la ley llamado Operación AI Comply. Como parte de la investigación, tomó medidas contra varias empresas que utilizaron inteligencia artificial para “perturbar” productos y servicios fraudulentos.
Los casos incluían reseñas falsas generadas por IA, el “primer robot abogado del mundo” y esquemas de robo en tiendas en línea.
En La FTC dijo en un comunicado. que los consumidores han perdido decenas de millones de dólares con la promesa de que las soluciones de inteligencia artificial y la automatización les ahorrarán tiempo, dinero y, en situaciones de comercio electrónico, generarán mayores ingresos.
Después de todo, las empresas no estuvieron a la altura de sus afirmaciones y sabían que estaban engañando a los clientes.
“Es ilegal utilizar herramientas de IA para engañar, despistar o engañar a la gente” dicho Lina Khan, directora de la agencia. “Las acciones de cumplimiento de la FTC dejan en claro que no existen exenciones de IA de las leyes en los libros”.
¿Puede un chatbot con IA disuadirte de creer en teorías de conspiración?
La queja de la FTC contra Rytr, una empresa que ofrecía un servicio de redacción de IA, describe cómo los clientes podían crear efectivamente reseñas falsas que no tenían base en las aportaciones de los usuarios. La FTC dijo que en muchos casos, las reseñas generadas por IA contienen información falsa que induce a error a los consumidores a comprar un determinado producto. Algunos de los clientes de Rytr han creado miles de reseñas que potencialmente muestran errores.
La velocidad de la luz triturable
La FTC afirmó que Rytr ofrece un servicio que es capaz de difundir “un exceso de reseñas falsas que perjudican tanto a los consumidores como a los competidores honestos”. La FTC ha propuesto que se prohíba a Rytr anunciar, promocionar, comercializar o vender un servicio que implique la generación de reseñas o testimonios de consumidores. La agencia prohibió las reseñas falsas y generadas por IA en agosto.
La velocidad de la luz triturable
Como parte de la Operación AI Comply, la FTC tomó medidas contra DoNotPay, una empresa que les dijo a los consumidores que su robot de inteligencia artificial podría ayudarlos a “trabajar sin un abogado” y “crear documentos legales totalmente válidos en poco tiempo”. Si bien la compañía ha catalogado el servicio como “el primer robot abogado del mundo”, no ha realizado una prueba para comparar su chatbot de IA con un abogado humano. Además, no había abogados en su equipo.
En cambio, la empresa dijo a los clientes que podía investigar el sitio web de una pequeña empresa en busca de violaciones de las leyes federales y estatales, una característica que no fue efectiva.
DoNotPay dijo a Mashable en un comunicado que la queja de la FTC se relacionaba con servicios utilizados por “varios cientos” de clientes y “ha sido descontinuada durante mucho tiempo”. La empresa señaló que había resuelto el caso sin responsabilidad.
La FTC también presentó quejas contra tres empresas que contratan personas que quieren abrir tiendas en línea, incluidas TikTok, Walmart, Amazon y Etsy. Estas empresas suelen cobrar mucho dinero por lanzar una tienda en línea con software propietario e inteligencia artificial que puede aumentar sus ingresos. A algunos clientes se les pidió que compraran inventario que no vendieron.
Una empresa, FBA Machine, prometió a sus clientes que podrían gestionar un “negocio de siete cifras” que estaría “libre de riesgos”. Garantizaba retornos falsos a los clientes que no pudieron recuperar su inversión inicial, dijo la FTC, que oscilaban entre decenas de miles y cientos de miles de dólares. En total, los clientes perdieron alrededor de 16 millones de dólares debido al plan.
Otra empresa, Ascend Ecom, dijo a los clientes que podrían abrir tiendas que eventualmente generarían ingresos mensuales gracias a las herramientas de inteligencia artificial “mejores de su clase”. La FTC estimó que el plan defraudó a los clientes por al menos 25 millones de dólares.
ACTUALIZACIÓN: 25 de septiembre de 2024 a las 11:55 UTC Esta historia se actualizó para incluir una declaración de DoNotPay.
Materias
El beneficio social de la inteligencia artificial
