• <legend id="66666"></legend>
  • <tr id="66666"></tr>
    <legend id="66666"></legend>

    您好,欢迎进入匠人留学移民官网!

    一站式服务商

    提供留学、移民、海外置业、在职提升等一条龙服务

    18548177000

    热门关键词:  美国留学英国留学加拿大留学澳大利亚留学新西兰留学中国香港留学

    某某品牌策划有限公司
    邮箱:123454678@qq.com
    手机:13899999999
    电话:020-88888888
    地址:安徽省合肥市高新区长江东路

    新闻资讯
    您的位置: 网站首页  > 新闻资讯

    利兹大学:人工智能的优点需要更高的透明度

    发布时间:2023-04-16浏览次数:6731

    人工智能开发人员需要更加开放地评估他们生产的工具,以确保人们了解高科技人工智能的实际效果。

    来自机构的16名研究人员呼吁对人工智能系统的评估和报告方式进行重大改变,以便其他学者和用户可以充分了解这些工具可以做什么,不能做什么。

    利兹大学计算机学院安东尼·科恩(Anthony Cohn)教授是16月14日星期五在《科学》杂志上发表的一篇政策论文背后的<>位学者之一,该论文主张这些变化。

    科恩教授也是艾伦图灵研究所的研究员,他警告说,如果没有人工智能的更多透明度,人们“终可能会在不应该信任一个系统的时候信任一个系统”。

    人们终可能会在不应该信任一个系统的时候信任一个系统

    安东尼·科恩教授,利兹大学

    传统上,人工智能系统是根据“基准”进行评估的——通常是“问题实例”的大型数据集,如一组X射线扫描,异常情况以注释的形式突出显示。人工智能系统可以在其中的一部分上进行训练,然后在一组看不见的实例上进行测试,没有任何注释,并评估它能够预测正确注释的能力。

    然后通过汇总统计数据来衡量和报告人工智能系统的整体性能,并可能达到非常高的性能水平。虽然是衡量系统整体性能的潜在有用指标,但这些汇总统计数据可以掩盖“少数情况”表现不佳的领域,这对任何依赖整体统计数据的人来说都有深远的影响,他们认为人工智能系统在各方面都同样可靠。

    在用于帮助医护人员找到诊断的人工智能中,这些系统在观察来自特定种族或人口统计的人时可能会出现问题,因为这些实例只占其“培训”的一小部分,或者工具在识别特定罕见疾病或异常方面的成功率可能显着降低。

    科恩教授说:“随着人工智能如今在新闻中如此之多,以及许多关于人工智能系统性能的主张以及据称在通用人工智能(AGI)方面取得的进展,正确理解新系统结果时取得的实际进展,以及系统的优势和劣势,变得更加重要。

    “隐性偏见”的风险

    这个问题可以适用于许多不同的领域;他补充说,一个非医学的例子可能是一个经过训练的系统来做出信用卡申请的决策 - 虽然它可能被证明在从先前决策数据集中提取的测试数据非常准确,但这可能会掩盖对特定少数群体申请人的偏见。

    这篇题为“重新思考人工智能评估结果报告”的论文由剑桥大学Leverhulme智能未来中心的作者Ryan Burnell博士撰写,研究人员来自世界各地机构 - 包括利兹,哈佛大学,瓦伦西亚理工大学的瓦伦西亚人工智能研究所(VRAIN),麻省理工学院和谷歌。

    人工智能的研究文化以超越当前的性能为中心,以便发表论文、赢得挑战和排行榜。

    Ryan Burnell博士,剑桥Leverhulme智能未来中心

    伯内尔博士说:“人工智能的研究文化集中在超越当前的性能上,以便发表论文、赢得挑战和排行榜。这种文化导致了对改进聚合指标的执着,并抑制了研究人员仔细询问系统性能的积极性。相反,发布速度和整体系统准确性优先于稳健透明的评估实践。

    该论文为稳健的人工智能评估实践制定了四项新指南,称研究人员应尽可能详细说明他们在开发和评估系统时使用的问题实例的细分。作者还建议,所有记录的评估结果 - 包括成功和失败 - 都应该提供,以便其他研究人员可以复制分析并进行后续评估。


    蒙公网安备 15010302000536号

    强伦人妻一区二区三区视频18 <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <蜘蛛词>| <文本链> <文本链> <文本链> <文本链> <文本链> <文本链>