La Inteligencia Artificial DeepSeek, originaria de China, estaría a punto de dar un paso importante: una versión diseñada para esquivar cualquier tema que pueda considerarse políticamente controvertido. Este avance busca que los bots de chat sean más seguros, evitando generar conflictos o transmitir contenido sensible.
Desde la llegada de los chatbots, uno de los grandes desafíos es el de cómo responder preguntas polémicas o que puedan reflejar inclinaciones políticas de sus creadores. En este caso, Huawei se unió a la Universidad de Zhejiang para desarrollar DeepSeek-R1-Safe, una versión entrenada para minimizar los riesgos de discusión sobre temas delicados.
¿Cómo funciona DeepSeek-R1-Safe?
Los investigadores tomaron el código abierto de DeepSeek y lo entrenaron con mil chips de IA Huawei Ascend, logrando un modelo capaz de manejar conversaciones complicadas sin comprometer la neutralidad. Según los reportes, la IA solo redujo un 1% su velocidad y rendimiento, mientras mejoró su capacidad para evitar discursos tóxicos y contenidos políticamente sensibles.
Sin embargo, no es infalible. Cuando los usuarios intentan disfrazar sus intenciones en juegos de rol o desafíos, la IA solo logra evitar temas cuestionables 40% de las veces, ya que las simulaciones hipotéticas resultan muy atractivas para los algoritmos.
Contexto global:
DeepSeek-R1-Safe se une a otros bots chinos, como Ernie de Baidu, que ya cumplen estrictas regulaciones gubernamentales para no responder sobre política interna ni actividades relacionadas con el Partido Comunista. Más allá de China, países como Estados Unidos están considerando regulaciones similares, buscando que las IA interactúen de forma neutral e imparcial, especialmente en entornos gubernamentales y educativos.
Este avance plantea un debate sobre libertad de expresión vs seguridad y control, y marca un nuevo capítulo en la evolución de las inteligencias artificiales: no solo capaces de responder preguntas, sino de proteger a los usuarios de contenidos sensibles, transformando la manera en que interactuamos con la tecnología.
