Chinese Ministry Warns of Security Risks with Open-Source AI Agents

The Ministry of Industry and Information Technology (MIIT) in China has issued a set of \"six musts and six don'ts\" to mitigate security risks associated with open-source intelligent agents, specifically highlighting the \"Longxia\" (Dragon Prawn) platform.

The recommendations were developed by the MIIT's Network Security Threat and Vulnerability Information Sharing Platform (NVDB) in collaboration with AI providers, vulnerability platforms, and cybersecurity firms. The advisory addresses risks identified in typical \"Longxia\" application scenarios.

One of the most prominent risks identified is within financial trading environments. The ministry warns that deploying \"Longxia\" for automated trading and risk control, by calling financial application interfaces, could lead to erroneous transactions or even account takeovers. While these agents can enhance efficiency in quantitative trading, intelligent investment research, and portfolio management by automating tasks such as market data capture, strategy analysis, and trade execution, they also introduce significant vulnerabilities.

To counter these threats, the MIIT advises implementing network isolation and the principle of least privilege, along with disabling unnecessary internet ports. Establishing manual review processes and circuit-breaker mechanisms for emergencies, and requiring secondary confirmation for critical operations, are also recommended. Furthermore, the ministry stresses the importance of strengthening supply chain audits, using official components, and regularly patching vulnerabilities.

#crypto #blockchain #news