本章已阅读完毕(请击一章继续阅读!)

    目前，各国科学家正致力解开黑箱，政府、行业协会也对此有要求，已经取得一些成果——不少东西都是数学。

层据勾勒的边缘确定各个官形状，六七八层通过各个分颜判断、纹, 瞳……最后层得答案：这是猫、狗、兔、其他。

    它给了人空前的可能，也给了人无尽的困惑。

    它好像在玄幻境界。码工时常觉得自己正在养蛊，贼刺激，给蛊虫喂个这个、喂个那个，一掀盖，嚯，来一个超厉害的东东！

    何况，不幸的是，如同大脑会错，ai也会错。

    然而，对每一层都在提取什么特征，以及机为何要这些事、为什么能得结论，人类无法解释。据输，有些提取简单易懂，比如勾勒边缘、模糊图片、突重、锐化图片……可是，在很多时候，人类完全get不到！看着某层来以后图片所变成的样，只能叫一声“什么鬼！”有时人类只能提几个特征，ai分好几百层！

    人类历史充分表明，只有一个决策可以解释、分析，人才可以了解它的优缺陷，评估风险，知它在多大程度能被信赖。

    阮思澄是一直觉得，这现象十分正常，没有那么邪乎。在人类的文明当中，往往实践先于理论。比如，老祖宗在打造刀剑时、发明火-药时，清楚地知原理吗？no！都是东西先来了，能work了，大家才开始研究原因。

    ai也是啊！慢慢来嘛。

    当然，也有学者表示：“它能到就足够了！”“大脑一直为你工作，你也一直都信任它，即使并不知它是如何工作的。”

    2006年多层神经网络现以前, 机学习都只于初级阶段, 需要人工提取特征。而2006年后, 它到“度学习”的大时代。人类不监督、半监督，机自己分析特征、独立思考。给一万张猫的图片，说“这都是猫”，它就懂了，再给一张它没见过的，问“是不是猫”，它会说是。人们给它正确答案的数据集，它便可以行学习, “看”的越多会的越多，不断优化自能力。因此，“人工智能”定义十分清晰，区别是真·人工智能还是噱只需要看它有没有模仿人脑。

    于是问题来了：我们能信任ai吗？我们能在多大程度上相信ai？我们能在生死攸关时信任ai吗？

    训练ai这方式为何能行？它是如何学的？信息存在哪里？为何此判断？不知。

    就像人类无法摸清大脑的工作原理一样，他们同样无法摸清ai的工作原理。

    很多专家说过“必须质疑人工智能为何一个决定……”“难，无人汽车每回事，企业都说不知原因、ai让它这么的？”

    不过，虽然如此，攻城狮们写程序时，也能据他人经验，知大概该怎么。ai能自己学，但是，攻城狮们需要设置许多参数，比如用哪一激活函数；如何搭建网络结构；分别设置多少卷积层、池化层、全连接层，如何排列架构；用哪一

    有人说，让ai向人解释一个东西，相当于让人向狗解释一个东西，听着so sad。