联系我们

伦理

初创公司无偏向旨在通过区块链提高数据透明度,应对数据偏见

mm

更新

 on

数据偏差在人工智能中的影响已得到充分证明,并且与AI和 机器学习 算法不断深入社会的各个角落,人工智能公司正在寻找新的方法来确保他们开发的算法不会继承人类的偏见。 AI和机器学习领域中的新参与者之一,旨在减少数据偏差的是透明命名的启动 无偏见。无偏见 启动了一个新的数据市场 在活跃的区块链平台上 泰洛斯,希望为客户提供去中心化,隐私优先的工具和应用程序,用于 数据科学 和 AI.

预计未来十年全球人工智能市场将继续快速增长,到2027年将达到约2660亿美元。在未来四年内,全球在人工智能系统和相关组件上的支出预计将翻倍,达到 根据IDC的数据,到2024年将达到1100亿美元。 在越来越多的行业中,人工智能算法的迅速采用导致人们对人工智能系统的透明性,隐私性,公平性和代表性的担忧日益增加。

通过透明度减少偏差

根据一个 CapGemini研究所发布的最新报告题为“ AI和道德难题:组织如何建立道德上健全的AI系统并获得信任”,AI的道德使用已成为各方面IT领导者的主要关注点,大多数IT领导者现在都对AI系统的潜在滥用。 10个IT组织中大约有9个表示他们知道至少有一个事件是由于应用AI系统而造成道德问题。大约三分之二的IT高管表示,他们意识到AI系统中可能存在的歧视性偏见,并且大约一半的IT组织都有旨在推动AI发展的道德宪章,而在2019年只有5%的IT公司。

尽管关于如何使AI算法更公平的研究仍在继续,但许多伦理学家和AI专家将重点放在用于训练AI的数据上。随着AI算法变得越来越普遍和标准化,重点正在转移到获取训练模型所需的数据。

有很多 减少AI算法中数据偏差的方法。一些技术涉及在模型训练时对模型或训练数据进行调整。这些技术是“处理中”偏差校正技术。这包括使用对抗训练技术,在这种情况下,可以通过惩罚模型进行涉及所涉及特征的预测的能力来控制某些敏感特征/变量(例如性别或种族)。在尝试最小化模型误差的同时完成此操作。相反,专注于从数据集中消除偏差是一种预处理技术。机器学习模型的训练数据通常是手动标记的,而区块链的应用可以帮助公司跟踪其数据的标记过程,以确保其数据集具有代表性。

无偏见正在寻求区块链在数据集和数据市场中营造一种透明文化。用于生成AI系统和机器学习算法的数据集的大多数工具都是集中式的,因此,它们通常缺乏透明度。 Unbiased旨在利用区块链的性质来记录其数据市场中发生的动作,包括数据交换,任务和项目等式以及工人的贡献。目标是Telos区块链的分散性质有助于提高透明度,使用户可以获取有关其数据科学性质的关键信息。用户将能够验证其数据集并确定是否已对某些道德原则(例如公平和隐私)进行了注释。

泰洛斯区块链的首席架构师认为,人工智能/机器学习与区块链的交叉可以带来变革性的数据处理新方法。 正如AIthority引用Horn的话:

“无偏见将向这些行业展示如何在诸如Telos之类的高性能,免费的区块链上记录数据,如何在其产品中增加透明度,不变性,小额支付和治理,以造福所有利益相关者。”

除了训练数据的透明度之外,一些科学家和研究人员还拥有 推动算法,模型和代码的更高透明度。一个国际科学家团队呼吁科学期刊让计算机科学研究人员达到更高的透明度标准。研究人员认为,关于AI模型和代码的更高透明度不仅有助于研究的可重复性,还有助于研究小组之间的合作。许多科学研究无法复制,而对于以AI为重点的研究却没有关键材料,这是一个更大的问题。将来,甚至可以利用区块链来改善AI领域研究的跟踪和评估。

 

专门从事以下工作的Blogger和程序员 Machine Learning Deep Learning 话题。 Daniel希望帮助他人将AI的力量用于社会公益。