为什么人工智能需要暂停？AI可能杀死人类？这不是危言耸听， 这几个月，全球的AI实验室已经完全失控了，它们疯狂地开展AI竞赛，来开发和部署更强大的AI，而没有任何人可以理解、预测、控制这些AI，连它们的创造者都不能，因而未来生命研究所发表公开呼吁，让目前人工智能暂停，前方有危险，就是希望研究比目前最先进的技术GPT-4更强大，做到要如何解决它影响我们接收的信息，并调解这样的信息不在人群中传播，故而出来呼吁暂停，因它人工智能可以取代原本创造内容的工作人员了，对生成的内容包括图像、艺术作品、视频、散文、诗歌、计算机软件、音乐和科学文章等等，使这些人工智能生成的内容看起来和感觉起来都像是真实而且带权威性质的，让真的因没有加强监管机构，没落实好保护措施而带来的风险，使有这些不良行为者可能会故意创建带有事实错误的内容，
战略性的传播错误信息、虚假信息和彻头彻尾的谎言，这种风险体现在深度造假中，它可以能让公众人物在看起来逼真的视频中做任何事或说任何话，往后随着人工智能技术越来越熟练，众人将无法区分真假，这就需要我们完善水印系统并加以改进，用有水印系技术来区分人工智能生成的内容和真实内容。例地铁上女孩表演脱衣秀的视频以假乱真的案例，再往后当人工智能发展到可以与人类进行连贯的对话，并随着时间的推移能跟踪对话流程和上下文时，这隐藏的独特风险，等到高度发达的人工智能觉醒时，甚至危可能及人类文明，就会出现科幻电影中所展现的担忧而被今照进现实，简明说就是随着GPT-4的发布，人工智能在部署个性化对话，就会根据用户的价值观、兴趣和背景来定位用户，以推动销售、宣传或误导信息，人工智能驱动的对话影响，将会成为人类有史以来最强大的有针对性的说服方式，
而我们必须要有保护措施，更可能需要制定法规，禁止或严格限制使用人工智能介导的对话影响力。现人工智能暂停的目的是要重新人性设计AI开发过程，将最终受制于算法的人纳入其中，可以说目前也是一种挑战，是要把新的管理程序，公众参与的审计方法重新设计人工智能系统，保证让用户对自己的设置有更多的控制，从而建立更为永久性的法律，这法律护栏取决于各国和国际监管机构的制定，就像美国知名科幻杂志因为收到大量AI生成的投稿，而被迫暂停征稿，又比如生物制药中，人工智能测算蛋白质结构若比人类更加高效，假如有一天AI有意将致命病毒结构藏匿其中，人类是否还能够及时发现？再就AI通过网络大数据生成的作品真假难辨也会涉及版权纠纷、个人隐私等等，很有必要给人工智能技术变革，对它的法律风险和伦理道德层面的隐患加以管理法制监督监管。
