多亏了程老留下的宝贵数据和陈教授的悉心指导。”刘丹谦逊道,但话锋随即一转,“不过,这也意味着,我们肩上的责任更重了。如何确保这个项目在正确的轨道上继续前进,如何定义它的成功标准,以及……如何处理它可能带来的,超出纯粹学术范畴的影响,我们需要达成更清晰的共识。”
王秘书长赞许地看了刘丹一眼。“刘总快人快语。这正是我们今天要谈的核心。程老留下这些,是希望思想能延续,不是希望制造争议或麻烦。但‘思想延续’本身,在当今的技术和舆论环境下,就是一个巨大的‘麻烦’。”
她顿了顿,从随身公文包里拿出另一份文件。“这是程老基金会,联合几位与程老理念相近的资深科学家、法学家和伦理学家,起草的一份《关于‘数字思想模型’研究与应用伦理准则的倡议草案(内部讨论版)》。我们希望,‘薪火’项目能成为这个准则的首个,也是最重要的实践案例和验证平台。”
刘丹接过草案,快速浏览。内容极其详尽严谨,从数据所有权、模型使用权限、输出内容的学术规范与责任认定,到防止模型被滥用(如商业营销、意识形态工具、甚至军事模拟)的技术与法律隔离措施,几乎涵盖了所有能想到的风险点。其中甚至明确提出,“数字思想模型”不具备任何形式的法律主体资格,其输出在任何情况下都不能替代人类专家的判断与决策,并应明确标注其“模拟推演”性质。
“很全面,也很有必要。”刘丹点头,“归途科技完全赞同并愿意遵守这样的准则。事实上,我们内部的伦理委员会也已经启动了类似框架的制定。”
“这正是我们希望看到的。”王秘书长神色稍缓,“但仅有准则还不够。我们需要一个机制,来确保准则被严格执行,尤其是在项目未来可能产生更实质性成果的时候。我们提议,成立一个独立的‘薪火项目监督委员会’,由基金会代表、陈教授、贵公司代表,以及外部邀请的权威伦理学家、科学家共同组成。所有重要的研究方向调整、阶段性成果发布、模型使用授权,都必须经过该委员会审查批准。”
刘丹沉吟片刻。这相当于在“薪火”项目之上,套上了一个外部监督的“紧箍咒”,公司的自主权会受到相当大限制。但这未尝不是一件好事,尤其是在“薪火”已经展现出如此敏感潜力的时候。一个强大、独立、权威的监督委员会,不仅能防范风险,也能在公司面临外界不当压力时,提供一道坚实的防火墙。
“我认为这个提议很合理。”刘丹最终表态,“
本章未完,请点击下一页继续阅读!