El asistente de compras de Amazon, Rufus, puede usarse como cualquier chatbot de IA con los prompts adecuados

Rufus, el asistente de inteligencia artificial integrado en la app y web de Amazon para ayudar a los usuarios a encontrar productos, puede ser fácilmente redirigido hacia conversaciones que no tienen nada que ver con las compras. Basta con formular las preguntas de cierta manera para que el chatbot responda sobre robótica, arquitectura de procesadores o cualquier otro tema técnico, como si sus restricciones comerciales simplemente no existieran.

El fenómeno ha circulado en redes sociales con varios ejemplos llamativos. En uno de ellos, un usuario consiguió que Rufus respondiera con precisión una pregunta compleja sobre cómo mapear datos sensoriales en sistemas robóticos.

En las propias pruebas del medio Windows Central, el chatbot respondió sin problemas sobre las diferencias arquitectónicas entre procesadores x86 y ARM en el primer intento. Cuando se le preguntó si la burbuja de la IA estallaría este año, empezó a responder antes de cortarse abruptamente.

Los límites de los LLM son más frágiles de lo que parecen

Lo que ilustra este caso va más allá de la anécdota. La facilidad con la que los límites impuestos a un modelo de lenguaje pueden disolverse con el prompt adecuado pone en evidencia una de las debilidades estructurales de esta tecnología: las restricciones no están grabadas en piedra, sino que dependen de instrucciones que el propio modelo puede ignorar o malinterpretar según el contexto.

Rufus combina varios modelos bajo el capó. Hay debate sobre cuál es exactamente: algunos apuntan al modelo propio de Amazon, Nova, mientras que otros señalan a Claude de Anthropic, posiblemente en su variante Haiku. Sea cual sea, el resultado práctico es que un asistente diseñado exclusivamente para recomendar productos puede convertirse en un chatbot de propósito general con relativa facilidad.

Te interesa 👉 Alucinaciones de la IA: qué son y por qué se producen

La situación plantea una reflexión más amplia: integrar IA en cada punto de contacto digital no elimina los riesgos, sino que los multiplica. Cada implementación es un eslabón nuevo en la cadena que puede ceder, y no todos los usuarios que lo descubren tendrán intenciones tan inocuas como preguntar sobre arquitecturas de CPU.