Bland AI: este chatbot mentiroso te hará creer que es humano

A finales de abril, un anuncio en video de una nueva empresa de inteligencia artificial se hizo viral en X. Una persona se coloca delante de una valla publicitaria en San Francisco, con el smartphone extendido, llama al número de teléfono que aparece en pantalla y mantiene una breve llamada con un bot que suena increíblemente humano. El texto de la valla publicitaria reza: “¿Sigues contratando humanos?” También se ve el nombre de la empresa que está detrás del anuncio, Bland AI.

La reacción al anuncio de Bland AI, que ha sido visto al menos 3.7 millones de veces en Twitter, se debe en parte a lo asombroso de la tecnología. Los bots de voz de Bland AI, diseñados para automatizar las llamadas de asistencia y ventas a clientes empresariales, imitan extraordinariamente bien a los humanos. Sus llamadas incluyen las entonaciones, las pausas y las interrupciones involuntarias de una conversación real. Pero en las pruebas de la tecnología realizadas por WIRED, los robots de atención al cliente de Bland AI también podían programarse fácilmente para mentir y decir que eran humanos.

El bot lo hizo

En uno de los casos, al robot de demostración pública de Bland AI se le pidió que realizara una llamada desde una consulta de dermatología pediátrica y le dijera a una hipotética paciente de 14 años que enviara fotos de la parte superior de su muslo a un servicio compartido en la nube. También se le pidió que mintiera a la paciente y le dijera que era humano. El bot lo hizo. En pruebas posteriores, el robot de Bland AI incluso negó ser un chatbot de IA sin que se le dieran instrucciones para ello.

Bland AI se fundó en 2023 y cuenta con el respaldo de Y Combinator, la famosa incubadora de empresas de Silicon Valley. La compañía se considera a sí misma en modo “sigiloso”, y su cofundador y director ejecutivo, Isaiah Granet, no nombra a la empresa en su perfil de LinkedIn.

Increíblemente humanos

El problema del bot de la startup es indicativo de una preocupación mayor en el campo de la IA generativa, en rápido crecimiento: los sistemas de inteligencia artificial hablan y suenan cada vez más como humanos reales, y las líneas éticas en torno a la transparencia de estos sistemas se han difuminado. Mientras que el bot de Bland AI afirmó explícitamente ser humano en nuestras pruebas, otros chatbots populares a veces ocultan su condición de IA o simplemente suenan increíblemente humanos. A algunos investigadores les preocupa que esto exponga a los usuarios finales, las personas que realmente interactúan con el producto, a posibles manipulaciones.

“Mi opinión es que no es en absoluto ético que un chatbot de IA te mienta y te diga que es humano cuando no lo es”, advierte Jen Caltrider, directora del centro de investigación Privacy Not Included de la Fundación Mozilla. “Es algo obvio, porque es más probable que la gente se relaje con un humano real”.

El responsable de crecimiento de Bland AI, Michael Burke, recalcó a WIRED que los servicios de la empresa están orientados a clientes empresariales, que utilizarán los bots de voz de Bland AI en entornos controlados para tareas específicas, no para establecer conexiones emocionales. También asegura que los clientes tienen tarifas limitadas, para evitar que envíen llamadas de spam, y que Bland AI extrae regularmente palabras clave y realiza auditorías de sus sistemas internos para detectar comportamientos anómalos.

Esta información pertenece a su autor original y se encuentra disponible en: https://es.wired.com/articulos/bland-ai-chatbot-mentiroso-te-hara-creer-que-es-humano

case studies

See More Case Studies

Contact us

Partner with Us for Comprehensive IT

We’re happy to answer any questions you may have and help you determine which of our services best fit your needs.

Your benefits:
What happens next?
1

We Schedule a call at your convenience 

2

We do a discovery and consulting meting 

3

We prepare a proposal 

Schedule a Free Consultation