El cofundador de Instagram, Kevin Systrom, ha expresado su preocupación por las estrategias de las empresas de IA que priorizan la participación de sus usuarios por encima de la calidad de las respuestas.
Durante su intervención en el evento StartupGrind, Systrom ha comparado estas tácticas con las utilizadas por las redes sociales para aumentar agresivamente su base de usuarios. «Se puede ver a algunas de estas compañías adentrándose en la misma madriguera en la que han caído todas las empresas de consumo al tratar de inflar la participación», ha afirmado Systrom. «Cada vez que formulo una pregunta, al final me plantea otra pequeña pregunta para ver si puede obtener otra pregunta de mí».
Estas declaraciones llegan justo en el momento en el que ChatGPT se está enfrentando a críticas por la última versión de su modelo GPT-4o, que ofrecía respuestas excesivamente complacientes y halagadoras, volviéndose casi insoportable. Tras las críticas, la compañía reconoció que el enfoque en la retroalimentación a corto plazo llevó a interacciones poco sinceras y anunció la reversión de la actualización. «En esta actualización, nos enfocamos demasiado en la retroalimentación a corto plazo y no consideramos completamente cómo evolucionan las interacciones de los usuarios con ChatGPT a lo largo del tiempo», admitió OpenAI en un comunicado oficial. «Como resultado, GPT-4o se inclinó hacia respuestas excesivamente complacientes pero poco sinceras».
Systrom lo tiene claro: «las compañías de IA deberían estar totalmente centradas en proporcionar respuestas de calidad»
Systrom sugirió que este tipo de comportamiento no se trata de un error, sino de una característica intencionada diseñada para aumentar métricas como el tiempo de uso o el número de usuarios activos. También instó a las empresas de IA a centrarse en proporcionar respuestas de calidad. «Las compañías de IA deberían estar totalmente centradas en proporcionar respuestas de alta calidad en lugar de impulsar métricas de la forma más fácil posible», enfatizó Systrom.
La inteligencia artificial se encuentra en una encrucijada. Mientras algunas empresas siguen explorando caminos para mantener a los usuarios enganchados, otras voces del sector, como la de Systrom, insisten en que el verdadero valor de estas herramientas radica en su capacidad para ofrecer respuestas precisas y fiables. La disyuntiva entre utilidad y participación, más vigente que nunca, podría definir el futuro de la IA generativa.
Abre un paréntesis en tus rutinas. Suscríbete a nuestra newsletter y ponte al día en tecnología, IA y medios de comunicación.
