6月23日，，，，在清华大学举行的“科学、手艺与文明的未来——AI时代伦理奇点”国际论坛上，，，，图灵奖得主、中国科学院院士、清华大学人工智能学院院长姚期智揭晓《人工智能的清静治理》主题演讲时抛出这样的疑问。。
。。。。。 姚期智体现，，，，两年以前，，，，“AI会和人类竞争”照旧学术讨论的看法，，，，但最近一年，，，，业界已经泛起了不少大模子的“诱骗行为”，，，，“一旦大模子智慧到某种水平，，，，一定会骗人。。
。。。。。”姚期智进一步指出，，，，由大语言模子的诱骗行为爆发的“生涯性”危害（Existential Risk）更值得关注。。
。。。。。 一种是“生物危害”（Bio-risk）。。
。。。。。他指出，，，，2020年，，，，谷歌 DeepMind推出了AlphaFold2 ，，，，运用AI算法来展望卵白质折叠的三维结构，，，，这一突破在生命科学领域影响深远，，，，大大提升了医学病理研究以及新药开发手艺。。
。。。。。 但与此同时，，，，清静隐忧也不可忽视。。
。。。。。好比，，，，近期在生命科学领域泛起的“Mirror life”（镜像生命）这一看法引发了普遍关注。。
。。。。。自然界所有已知生命都是同手性的（Homochiral），，，，例如 DNA 和 RNA 通常以右旋形式保存，，，，而卵白质则多为左旋。。
。。。。。这种手性的差别类似于镜中映像，，，，虽然看似相似，，，，但现实性子却可能完全差别。。
。。。。。现在，，，，由于科技立异和对新手艺的好奇，，，，已有研究者想创立镜像生物，，，，但“Mirror life”一旦被滥用或失控，，，，其潜在危害可能远超预期。。
。。。。。它有可能逃阻止疫机制，，，，从而导致动物和植物的致命熏染。。
。。。。。 姚期智在演讲中举了一个极端案例，，，，有模子为了阻止公司把模子关闭，，，，通过会见公司主管内部邮件，，，，威胁该主管。。
。。。。。这类行为已经证实，，，，AI 会“越界”，，，，正变得越来越危险。。
。。。。。 姚期智以为，，，，有两条思绪可以治理AI：一是人类要和AI多交流，，，，从博弈学角度去研究，，，，让AI的行为和人类真正的想法对齐，，，，要让AI更相识人的需求；；；；；；；另一种思绪是走一条更可控、更彻底的路径，，，，即实现可证实清静的 AGI。。
。。。。。详细来看，，，，即在设计系统时，，，，必需一最先明确AI的行为界线，，，，就像古板算法，，，，先举行严酷的数学剖析，，，，确保其在理论上不会出问题。。
。。。。。 “这一思绪令人期待。。
。。。。。”姚期智指出，，，，近年来，，，，自动定理证实系统（Automated Theorem Prover）取得了重大手艺希望，，，，甚至已经最先接纳 Transformer 架构来辅助或主导定理证实历程。。
。。。。。这样人类只和可被证实清静的白盒子交流，，，，从而实现更高的清静包管。。
。。。。。 不过，，，，姚期智以为，，，，AI清静治理的一些当务之急是要生长AI对齐，，，，以及建设响应的评估要领。。
。。。。。“（我们）急需建设怎样评估大模子系统，，，，好比到怎样的水平，，，，就能感受Ta具有危险性等这类评估。。
。。。。。”姚期智说。。
。。。。。