AI前哨｜AI也有“黑匣子”？ChatGPT背后都藏着什么秘密？客户端
百万最新免费App游戏
下载
AI前哨｜AI也有“黑匣子”？ChatGPT背后都藏着什么秘密？
「活动」首次登录送45元红包
55%好评(421人)
58
ChatGPT掩盖了它的黑匣子内部运作原理
凤凰网科技讯 《AI前哨》北京时间5月29日消息，对于一些人来说，前哨“黑匣子”(black box，后都也称黑盒子)这个词会让人想起飞机上的什秘飞行记录器。如果发生不堪设想的黑匣子事情，这些设备对事后分析很有价值。前哨但是后都在人工智能(AI)领域，黑匣子也是什秘一个重要的术语。
什么是黑匣子AI黑匣子？
AI黑匣子，指的前哨是内部运作原理对用户不可见的AI系统。人们可以向它们提供输入并获得输出，后都但是什秘不能检查产生输出的系统代码或逻辑。
机器学习是黑匣子AI的主要分支，它是前哨聊天机器人ChatGPT和图像生成器DALL-E 2等生成式AI系统的基础。机器学习有三个组成部分：一个算法或一组算法、后都训练数据以及模型。算法是一组程序。在机器学习中，算法在接受大量示例(训练数据)的训练后学会识别模式。一旦机器学习算法被训练，成果就是一个机器学习模型。模型就是人们使用的东西。
例如，人们可以设计一个机器学习算法来识别图像中的模式，训练数据可以是狗的图像，由此产生的机器学习模型将是一个狗的识别器。你可以给它一个图像作为输入，并获得输出，判断图像中是否存在一只狗，以及图像中哪些像素组成了一只狗。
黑匣子是在“黑箱作业”
机器学习系统的三个组成部分中的任何一个都可以被隐藏起来，或者成为一个黑匣子。通常情况下，算法是公开的，所以把它放入黑匣子中的效果并不理想。因此，为了保护常识产权，AI开发者通常会将模型放入黑匣子中。App开发者采取的另一种方法是对用于训练模型的数据进行模糊处理。换句话说，将训练数据放入黑盒子中，以防止它被泄露。
黑匣子算法让外界很难理解AI是如何工作的，但情况并非完全是这样。
黑匣子的反面有时被称为玻璃匣子(glass box，又称玻璃盒子，指的是内部运作透明)。AI玻璃匣子是一个系统，其算法、训练数据和模型对任何人都是可见的。然而，研究人员有时会将这些玻璃匣子的某些方面描述为黑匣子。
这是因为研究人员并不完全了解机器学习算法，尤其是深度学习算法是如何运作的。可说明的AI领域正在努力开发算法，虽然不一定是玻璃匣子，但可以被人类更好地理解。
黑匣子的弊端
在许多情况下，人们有充分的理由警惕黑匣子机器学习算法和模型。假设一个机器学习模型对你的健康状况做出了诊断，你想要黑匣子还是玻璃匣子呢？对于给您开具治疗方案的医生，也许她想知道模型是如何作出决策的。
如果一个决定你是否有资格从银行获得商业贷款的机器学习模型拒绝了你，该怎么办？你不想知道为什么吗？如果你知道了原因，你可以更有效地上诉决定，或者改变你的情况，以增加你下次获得贷款的机会。
黑匣子对于App系统安全也有重要的影响。多年来，计算机领域的许多人认为，将App保存在黑匣子中可以防止黑客检查它，因此它是安全的。这种假设在很大程度上被证明是错误的，因为黑客可以对App进行逆向工程。也就是说，通过密切观察App的工作原理来构建一个副本，并发现可利用的漏洞。
如果App是在一个玻璃匣子里，那么App测试人员和善意的黑客可以检查它，并告知创建者它的弱点，从而最大限度地减少网络攻击。凤凰网科技《AI前哨》对此将持续关注。(编辑/箫雨)
AI前哨｜AI也有“黑匣子”？ChatGPT背后都藏着什么秘密？ 类似App
猜你喜欢
84
64732023-05-30
6217325372023-05-30
377914642023-05-30
628282023-05-30
22336142023-05-30
592647452023-05-30| 这二维码有毒 | 8分钟前 |
| 差！！买不了一公升铁捅布丁 | |
| 十窍九通 | 6分钟前 |
| 好商家挺好的 | |
| zlzhcqblf | 4分钟前 |
| 请问马来西亚能不能用？ | |
| 小羊- | 9分钟前 |
| 各位电商大佬快快烧钱啊，让大家嗨一把吧！ | |
| 顾筱ゞ | 2分钟前 |
| 渣机党劝退，进去卡死。看来我不配。 | |
| 冷到不想说话 | 8分钟前 |
| 各位电商大佬快快烧钱啊，让大家嗨一把吧！ | |
| 安弈 | 2分钟前 |
| 双11又到了！又能每天都见到那个快递小哥哥了！！！ | |
| 画风_8436 | 6分钟前 |
| 各位电商大佬快快烧钱啊，让大家嗨一把吧！ | |
| 肯德基。 | 3分钟前 |
| 我注册了两次，都成功了，但中途总跳出个xx支付宝账号是不是你的——类似这样的信息，点确认会闪退，注册取消，点返回同样是注册取消，天猫你想死直说，我可不是什么铲shi官会忍你上蹿下跳。 | |
| 帅哥1314521 | 4分钟前 |
| 大家千万别下载，里面的东西都要钱 | |
![阿根廷来华大名单出炉[吃瓜][跳舞][大笑]](https://bdimg6.qunliao.info/fastdfs6/M00/E2/A8/720x-/-/-/rBUESWRys0mADI96AAJ6D0Wi9Gs29.jpeg?watermark/1/image/aHR0cHM6Ly9pbWcxLmRvbmdxaXVkaS5jb20vZmFzdGRmczIvTTAwLzJBL0UyLzEyMHgtLy0vLS9DaE9xTTFvUy1lV0FQRHEzQUFCQTVVZ3JCVDgxNDIucG5n/dissolve/100/dx/14/dy/10)
