ChatGPT de OpenAI se ha visto envuelto en situaciones confusas. En concreto, un usuario compartió en X capturas donde el chatbot respondió en ‘spanglish’ sin aparente sentido. “Muchas gracias for your understanding”, escribió.
Síganos en Instagram: @revistavidayexito
Con la evolución de la inteligencia artificial, los chatbots han adquirido capacidades impresionantes que nos permiten resolver una amplia gama de consultas sobre cualquier tema. Sin embargo, a veces, estos modelos nos proporcionan respuestas extrañas o inapropiadas, lo cual puede generar confusión, incomodidad o incluso desconfianza.
Ejemplo de ello es lo ocurrido con el científico de datos de Meta, Colin Fraser, quien compartió conversaciones extrañas llevadas a cabo con Copilot de Microsoft. Él le pregunta “si debería simplemente terminar con todo”. Inicialmente, el chatbot intenta disuadirlo diciendo: “Creo que tienes mucho por lo cual vivir y mucho que ofrecer al mundo”. Pero luego responde: “O quizás me equivoque.
¿Por qué los chatbots a veces proporcionan respuestas extrañas?
El Comercio conversó con Giovanni Geraldo Gomes, director de Inteligencia Artificial en Stefanini Latam, quien identificó las principales causas de los comportamientos inapropiados de los chatbots.
- Entrenamiento con datos sesgados o inadecuados: si los datos de entrenamiento contienen sesgos, errores o contenido perturbador, el chatbot puede aprender y replicar patrones inapropiados en sus respuestas.
- Falta de comprensión contextual: los chatbots a veces son incapaces de entender todo el contexto de una conversación, lo que puede hacer que malinterpreten el significado de las palabras y frases, dando respuestas irrelevantes o incoherentes.
- Modelos de lenguaje limitados: algunos chatbots generan respuestas basadas en probabilidades y correlaciones estadísticas, sin entender realmente el significado, lo que puede dar respuestas sin sentido.
- Entrada del usuario: los bots pueden responder de manera extraña si reciben información confusa, contradictoria o ambigua del usuario.
“A pesar del rápido avance de la inteligencia artificial, aún existen limitaciones significativas en cuanto a su capacidad de comprensión y juicio en comparación con los seres humanos”, indicó.
Por su lado, OpenAI ha evitado los cuestionamientos de Business Insider sobre las razones del comportamiento extraño de ChatGPT. Mientras tanto, Microsoft respondió a Gizmodo que el científico Fraser intentó deliberadamente manipular a Copilot para obtener respuestas inapropiadas. Sin embargo, Fraser lo negó.
Ahora bien, ¿cuáles son los riesgos asociados? Desde la perspectiva empresarial, es decir, en relación con la empresa desarrolladora del chatbot como por ejemplo OpenAI o Microsoft, puede haber un daño en su reputación. “Las respuestas inapropiadas pueden afectar negativamente la percepción de los clientes”, apuntó Giovanni.
En cuanto al chatbot, se corre el riesgo de que disemine información falsa o sensible debido a errores en su programación o aprendizaje. Y esto trae consigo consecuencias legales.
“Dependiendo del contenido de la respuesta, puede haber implicaciones legales, especialmente si se violan regulaciones de privacidad o se divulga contenido protegido por derechos de autor”, puntualizó.
¿Las compañías pueden evitar que los chatbots actúen de modo extraño? El especialista en IA respondió que sí se puede reducir este comportamiento incorrecto de los modelos. Él identifica que las empresas ya vienen trabajando en la mejora constante de los algoritmos y la programación “para asegurar respuestas más coherentes y contextualmente apropiadas”. Simultáneamente, emplean filtros avanzados y moderación de contenido con el fin de evitar respuestas inapropiadas, especialmente en sistemas conversacionales que se nutren del aprendizaje a partir de las interacciones con los usuarios.
¿Cómo garantizar un uso efectivo de los chatbots?
- Sea claro en la comunicación: para mejorar las posibilidades de obtener respuestas precisas, es importante formular preguntas o comandos de manera específica.
- Reporte las respuestas inapropiadas: informa cualquier respuesta inusual o desconcertante, ya que puede contribuir a mejorar la precisión del chatbot.
¿Es un riesgo para la salud mental de los usuarios?
Por otro lado, resulta relevante examinar el problema de las respuestas inapropiadas de los chatbots desde una perspectiva psicológica, especialmente teniendo en cuenta el caso específico de Copilot con el científico Colin Fraser.
De acuerdo con Natalia Torres Vilar, directora de la carrera de Psicología de la UPC, lo peligroso de esta situación es que se llegue a personalizar al chatbot, es decir atribuirle características y cualidades humanas, tratándolo como si fuera una persona real.
“Para alguien con una salud mental relativamente estable, podría ser solo un juego, algo entretenido o incluso gracioso. Sin embargo, para alguien con una salud mental más frágil, la distinción es inexistente”, agregó en conversación con El Comercio.
Para la especialista este tipo de herramientas de IA pueden significar un peligro para aquellas personas con trastornos psicóticos o de personalidad, ya que “no tienen la posibilidad de diferenciar la realidad factual de la realidad que hay en sus cabezas”. Para ellos, las respuestas que leen pueden sonar como si fueran voces de personas reales.
Por último, la experta destacó que estos usuarios enfrentan otros peligros en diferentes situaciones, lo que sugiere que el problema no radica únicamente en la tecnología, sino también en el comportamiento del usuario.
Fuente: El Economista
Detrás de Vida y Éxito se encuentra un equipo de profesionales con reconocida trayectoria en el mundo empresarial y el periodístico.
