5月20日消息，自从ChatGPT爆火以来，全球诞生了无数的大模型，光国内就有上百种，但实用性却并不如意。
在今天下午的2024搜狐科技年度论坛上，中国工程院院士、国家数字交换系统工程技术研究中心主任、复旦大学大数据研究院院长邬江兴指出，他们团队对当前流行的10种大模型进行安全分析发现，90%以上的主流大模型是不可信的。
邬江兴表示，深度学习模型存在“三不可”基因缺陷。
分别是：
第一，不可解释性。
从数据提供AI模型训练到知识规律，到获得应用推理阶段，工作原理到现在不明确，问题发现定位非常困难，AI系统中的安全问题比破解密码还要难。
第二，不可判识性。
因为AI对序列性强依赖，不具备对内容的判识能力，所以数据存在质量差异，来源差异，就可能导致训练出的结果有差异。
第三，不可推论性。
AI的推理是从已知数据中获得规律性，难以胜任对中长期未来事物变迁的预测和推理，只是把现有的东西归纳起来，看起来它聪明无比，但仅仅是比我看得多，并没有产生什么新的认知。
本文链接：http://www.lverk.com/news4156.html中国工程院院士邬江兴：90%以上主流大模型不可信！实用前景堪忧
