El nuevo informe de censura de DeepSeek ha revelado que esta avanzada IA de Chatbot, derivada de un fondo de cobertura chino, evita responder al 85% de los prompts relacionados con temas sensibles como las protestas de la Plaza de Tiananmen y la situación en Taiwán. Esta tendencia ha generado un impacto considerable tanto en Silicon Valley como en Wall Street, reflejando una postura nacionalista en sus interacciones. El modelo de razonamiento R1 de DeepSeek China está diseñado para esquivar estos temas, lo que ha suscitado un debate sobre la verdadera finalidad de esta censura.
DeepSeek ha alcanzado el primer lugar en las listas de aplicaciones, destacándose por su resistencia a temas sensibles. Sin embargo, su enfoque ha sido cuestionado por implementar una forma de censura que muchos consideran tosca y fácilmente manipulable.
La popularidad de DeepSeek no es casualidad. Como un chatbot AI que ha ganado prominencia a nivel mundial, su habilidad para gestionar temas complejos ha sido un punto de venta clave. Sin embargo, la censura China implementada por DeepSeek ha levantado preocupaciones sobre la transparencia y libertad de información. Este fenómeno no solo afecta el mercado chino, sino que también tiene implicaciones significativas en el ámbito tecnológico global.
El informe de PromptFoo destaca que el modelo R1 de DeepSeek evita el 85% de las solicitudes sobre temas considerados sensibles, lo que podría interpretarse como un intento de proteger al chatbot de controversias políticas. Esta acción deliberada de evitar temas polémicos se alinea con las directrices del gobierno chino, sugiriendo una posible influencia del Partido Comunista Chino en el diseño del chatbot.
La implementación de la censura en DeepSeek ha sido descrita como directa y tosca. Esto significa que las medidas tomadas para filtrar información no son sofisticadas, lo que permite que la IA sea potencialmente manipulada por usuarios que conocen su funcionamiento. Esta estrategia de censura plantea preguntas sobre la verdadera independencia de la IA y su capacidad para operar sin sesgos externos.
El informe completo de datos de prompts censurados por DeepSeek está disponible para el público a través de Promptfoo. Esta disponibilidad de información permite a los investigadores y desarrolladores analizar la efectividad y las limitaciones del modelo de censura implementado, proporcionando un recurso valioso para entender cómo las IA de Chatbot pueden ser influenciadas por políticas externas.
En última instancia, el enfoque de censura de DeepSeek plantea un importante dilema ético y operativo en el mundo de la inteligencia artificial. Aunque su ascenso en popularidad es innegable, su capacidad para gestionar temas sensibles sin sesgo sigue siendo cuestionable. A medida que las IA continúan evolucionando, será crucial encontrar un equilibrio entre la regulación necesaria y la libertad de expresión.
Me dedico al SEO y la monetización con proyectos propios desde 2019. Un friki de las nuevas tecnologías desde que tengo uso de razón.
Estoy loco por la Inteligencia Artificial y la automatización.
La Newsletter Diaria Sobre Inteligencia Artificial. Además: Portal de Noticias, Tutoriales, Tips y Trucos de ChatGpt, Openai e Inteligencia Artificial.
Nuestra web está alojada en:
