999 (第2/2页)

”

    “那……我有个问题啊……”周大军思索道：“如果科技没有道德伦理方面的约束，只是一味满足客户需求，进而完全满足客户私欲，不会扭曲科技的走向吗？”

    “您说得对！”刘开封赞道：“我们的人工智能研究当然有一个指导性纲领，所有研究都是在这个框架下进行……”

    “噢……比如呢？”周大军问道。

    “纲领还没有最后完善，但比如其中会参考阿西莫夫的机器人三大定律……”刘开封道：“这个您知道吗？”

    “三大定律……”周大军不置可否：“哪三个来着？”

    “第一定律：机器人不得伤害人类个体，或者目睹人类个体将遭受危险而袖手不管，除非这违反了机器人学第零定律。第二定律：机器人必须服从人给予它的命令，当该命令与第零定律或者第一定律冲突时例外。”刘开封道：“第三定律：机器人在不违反第零、第一、第二定律的情况下要尽可能保护自己的生存。”

    “呃……我听着怎么还有个‘第零定律’？”周大军问道。

    “‘第零定律’是后补充的——”刘开封道：“第零定律：机器人必须保护人类的整体利益不受伤害。”

    “噢……”周大军点头道：“后来还作了补充。”

    “这几条最初始，只是阿西莫夫在科幻小说当中提出的简略设想，当然很不完善。随着人工智能领域的不断进步，后来又有许多人完善和改进这些机器人的基本原则——”刘开封道：“比如以罗杰*克拉克为例，他构思的机器人原则是：

    元原则：机器人不得实施行为，除非该行为符合机器人原则。

    第零原则：机器人不得伤害人类整体，或者因不作为致使人类整体受到伤害。

    第一原则：除非违反高阶原则，机器人不得伤害人类个体，或者因不作为致使人类个体受到伤害。

    第二原则：机器人必须服从人类的命令，除非该命令与高阶原则抵触。

    机器人必须服从上级机器人的命令，除非该命令与高阶原则抵触。

    第三原则：如不与高阶原则抵触，机器人必须保护上级机器人和自己之存在。

    第四原则：除非违反高阶原则，机器人必须执行内置程序赋予的职能。

    繁殖原则：机器人不得参与机器人的设计和制造，除非新机器人的行为符合机器人原则。”

    “听起来——越来越多啊！”周大军一听“原则”之类的就头疼：“机器人记得住吗？”

    “这只是很简单的一些总纲和分级指令——”刘开封道：“对于机器人来说，再多十倍百倍，也能瞬间判断。”

    “噢……”周大军道：“这倒是……这方面机器人的运算速度比人快多了……”

    “对，我刚才说的只是我们行业纲领的一小部分参考内容——”刘开封道：“我们会更多地设置条件、限制机器的行为，且限制机器深度改变人类的思维。所有的人机互动、以不扰乱人类正常思维为前提——这些就需要进行多次、反复的实验……”

    “我还有点儿没太听懂——”周大军低头道：“也就是说你们控制机器人、机器人再去控制客户——最终客户由你们控制？”

    “呵呵，不能说控制——”刘开封忙道：“应该说服务。”

    “您说的这些很有意思——”周大军笑道：“那我怎么开始工作呢？”

    “呃……我们是这样考虑的，我们会从新入职的员工中随机挑选一名作为测试对象——”刘开封道：“接下来，还需要您的参与与指导。”

    “呵呵！您客气——”周大军笑道：“您选的这个人……有什么特殊之处吗？”

    “没什么特殊之处！”刘开封道：“就是个普通的年轻人。”

    “噢……”说干就干，周大军充满了责任心：“我想先近距离观察他。”

    “这好说，明天上午我会给他们做一个基础培训——”刘开封道：“您也可以作为一名新员工一起参加培训。”

    “好——就这么办！”周大军满意地点点头：“我先看看是怎么回事……”