近半年来，ChatGPT火爆、百度文心一言等生成式人工智能产品持续出圈，吊足了大众的胃口。最让人感到惊喜的，无异于生成式人工智能所产出的文章、海报、视频等，与人类自己产出的不相上下，几可乱真。而在近日国家互联网信息办公室发布的《生成式人工智能服务管理办法（征求意见稿）》（以下简称《征求意见稿》）中，多条规定就与“真实性”密切相关，引发了专家学者的一波讨论。
“从技术实践角度出发，人工智能生成内容的真实性与准确性与生成式人工智能的运行原理有一定的冲突，”针对《征求意见稿》第四条提及的“利用生成式人工智能生成的内容应当真实准确，采取措施防止生成虚假信息”，天津中德应用技术大学软件与通信学院院长杨清永如是说。
他指出，生成式人工智能技术并不是简单的“拼凑”机器、“缝合怪”，而是通过生成式处理技术，通过复杂且有创造性的生产，产出基于要求及标准的创新产品。“在生成式人工智能今后的发展上，应该基于人类的生产生活经验，为模型提供更多创新性的方法帮助技术迭代，而不应以绝对的真假来遏制创造的思想。”
(资料图片)
有专家指出，保证人工智能生成结果的绝对真实和准确，在现阶段的技术上也不可行。广西科技大学计算机学院（软件学院）党委副书记黄剑华表示，“语言大模型的推理生成过程存在一定周期，并且本身就具有一定的概率性，其生成的结果即使以目前最先进的技术条件也无法做到100%准确和稳定。如果对其要求过于严苛，势必会限制创新技术的发展。”
《征求意见稿》第七条则针对影响生成式人工智能效果的关键因素——训练数据，提出了真实性的要求。
对此，黄剑华表示，“不同行业对与内容的真实准确的定义是不完全相同的，例如新闻报道需要实事求是，而对于虚构写作来说则是虚拟的人物和事件，这就导致无法对真实性有一个确定的规范。”
全国人工智能职业教育集团理事长李延成认为，“对于训练数据的真实性、准确性、客观性，暂时可以不必硬性规定。一是在技术上不断提升准确度，必要性不大。二是会令数据获取、标注的工作趋于复杂，导致人工智能巧妇难为无米之炊，成长方向被限制，技术水平难以突破瓶颈。”
对《征求意见稿》的热烈讨论，折射出人们对生成式人工智能的期待。它不是作首诗、画张画、陪人聊天的娱乐工具，而是可能为各个领域带来革新的生产工具。湖南大学电气与信息工程学院教授何赟泽对于生成式人工智能的应用场景比较乐观：“在生产领域、在新能源的智能巡检、风电和光伏等新能源系统的安全巡检和故障检查，它都有很大的潜力。在教育领域，生成式人工智能也可能带来改变。”
尽管目前生成式人工智能在技术上还处在初期，有许多地方亟待迭代完善，何赟泽还是对这项技术和国内产品比较看好：“目前在国内，百度的文心一言是最有可能对标ChatGPT的产品，未来在多模态方面的发展潜力非常大。而这离不开一个激励创新的体制和环境，生成式人工智能发展还在初级阶段，建议有更加灵活的分级管理，给前沿技术的发展创造相对友好、宽松的环境。”
《征求意见稿》的出台旨在促进生成式人工智能的进步，让其更好地为社会经济服务。我国在技术和产业方面具有巨大优势，在大模型领域与世界并驾齐驱甚至领先。我们应当把握历史机会，建立适宜的创新氛围，让新技术新产品新应用更快地进入市场。
来自新商纪，发布者：新商纪管理员，转载请注明出处：https://www.nbtimes.net/7079.html
关键词：
