联系我们

网络安全

人工智能现在被用于检测小学生的网络欺凌

mm

更新

 on

关于全球在校儿童中的欺凌,自我伤害和网络欺凌的数据正变得令人震惊。如提出 吴军,来自美国的数据显示, 2017, 根据国家教育统计中心和司法局的数据,大约20%的12至18岁学生遭受欺凌。 根据 疾病预防控制中心,在调查之前的12个月中,有19%的9至12年级学生报告被欺负于学校财产。

越来越令人担忧的是,网络欺凌的兴起正在蔓延至校园以外。正如吴指出的那样,“在线论坛,电子邮件以及社交媒体平台上的骚扰通常比亲人欺凌对受害者的心理健康更具破坏性。网络欺凌通常是校园欺凌行为的升级。同时,欺凌行为可以从社交媒体开始,然后进入教室。”

在澳大利亚, 研究人员 正在报告名为Momo的现象,其中涉及一种情况,网络掠夺者冒充名为Momo的角色并联系儿童 通过社交媒体要求他们伤害自己,已经在全国各地的学校中引发了担忧的涟漪。”

防止由于抑郁而造成的这种欺凌和可能造成的自我伤害,促使许多人工智能开发人员试图寻求解决这一普遍问题的方法。

天空新闻 报告称,一些英国学校已开始使用由AS公司跟踪的AI工具AS Tracking 转向在英国的150所学校中开始使用。该工具让学生参加在线心理测验,并且在2019年9月,将有50,000名学童参加测验。

如前所述, 该测试要求学生想象自己喜欢的空间,然后提出一系列抽象问题,例如“有人进入您的空间有多容易?”然后,孩子可以通过单击从“very easy” to “very difficult”。将结果发送到STEER,“ STEER将数据与其心理模型进行比较,然后在其教师仪表板上标记需要注意的学生。”

根据STEER联合创始人Jo Walker博士所说, “我们的工具着眼于那些在发展的特定阶段苦苦挣扎的特殊儿童,它向教师指出了该儿童的思维方式。”他补充说:“自从引进以来,大学的自我伤害降低了20%。”

在分析中,Wu提到了美国的许多AI开发人员正在帮助解决该问题。 安全地 用AI创造 “网络过滤,网络欺凌监控和学校自我伤害警报。在监视学生的网络活动的同时,学校可以向学生发行Apple设备和Chromebook。父母还可以使用其家庭设备上的应用来监视孩子的在线活动。” 使用AI 监视短信,YouTube,电子邮件和24个不同的社交网络,以提醒家长潜在的安全隐患。 SN Technologies Corp 进一步发展的是,其AI解决方案使用面部识别功能,通过学校监控摄像头的视频来跟踪学校中被列入“黑名单”的学生。

在澳大利亚,网络安全创业公司 萨斯扬保证 开发了一种AI方法,该方法可以帮助教师在观看“ Momo Challenge”视频时跟踪学生。 Saasyan Assure负责人Greg Margossian表示,他的公司“只需确保确保‘Momo’关键字出现在客户的所有数据库中,而他们甚至都没有考虑过。”另外,该公司“提供了一种订阅软件,可以将其添加到学校的所有设备中,以创建每个学生的历史足迹”’计算机的使用和ping老师,如果有任何威胁,从欺凌到可能的自我伤害或暴力都会出现。”

 

联合国前外交官和翻译,目前是自由记者/撰稿人/研究员,主要研究现代技术,人工智能和现代文化。