中共中央宣传部委托新华通讯社主办

AI赋能+全量监测,作业帮发布“寸功平台”为青少年建信息安全防护墙

2018-09-30 15:43
来源:半月谈网

当前,互联网技术正突破学校围墙,把更广大的世界呈现在青少年面前。另一方面,鱼龙混杂的网络也对青少年的身心健康带来一定不良影响,青少年如何安全上网成为家长、学校等关注的焦点。

近日,在线教育平台作业帮发布了全国首个青少年信息安全防护平台——“寸功平台”,开启了大数据环境下的青少年信息安全防护工作,通过最先进的AI技术,对信息进行精准筛选、追踪和防控,以抑制互联网环境中的不良信息,打造健康网络环境。

此次活动,得到了网信办、教育部关工委、共青团中央、全国妇联、中国互联网发展基金会,中国关心下一代工作委员会、中国下一代教育基金会的指导和支持,为平台更添加了透明、快速、高效的基因,多方联合共同探索和创新“青少年信息安全保护”新模式。

青少年触网日益低龄化

以“00后”为主体的青少年被称为互联网的“原住民”,他们中的大部分,从一出生就被互联网环境所包围。

从网络平台上写作业、查资料,到在线学习成为常态,再到获取信息、拓宽视野、互动交流,都很大程度依靠电脑和手机完成。经济社会发展带来更高的消费水平、产生了新的生活方式,成长在信息化背景下的孩子越来越多拥有手机,也是正常现象。

近日发布的《青少年蓝皮书——中国未成年人互联网运用和阅读实践报告(2017-2018)》显示,未成年人互联网运用的总体普及率已高达98.1%,10岁之前触网的比例高达72.0%。学龄前孩子开始接触互联网的也达到了27.9%。

作业帮一年处置违规信息661万

未成年人触网日益低龄化也在提醒人们:如何引导青少年合理使用网络,是一道非常紧迫的命题。

据作业帮联合创始人李博洋介绍,2017年的9月到2018年8月,1年时间作业帮累计处置了违规信息661万,其中人身攻击类的信息占比24%,色情类的信息占比3%,在这些色情类的违规信息当中,小学生群体的占比高达58%,初高生群体占比均为21%。

“在孩子上网接受信息的同时,网络上的不良信息、网络欺凌行为和网络诈骗等也在对孩子造成不同程度的伤害。”未来网总编辑万兴亚在寸功平台发布会上说:“第一,网络的公开性导致垃圾信息泛滥。调查显示有六成以上的孩子接触过不良信息,其中色情信息对青少年危害非常大。第二,许多青少年遭受过网络暴力欺凌。由于网络社会的无规范性和匿名性,现代社会的规范无法对网络互动进行有效规范,有超过23%的孩子遭到过网络暴力欺凌,被人在网络上辱骂、折磨。第三,一些青少年容易成为网络诈骗的对象。最新的一个极端的案例是一个大学生学费被骗走,为了要回学费,他还成了网络诈骗的帮凶。”

四大功能为青少年安全上网保驾护航

据介绍,作业帮已有累计激活超过4个亿的用户,月活用户超过了8千万,拥有超过1.8亿自建的题库,覆盖了K12基础教育的各个阶段的学习需求。

李博洋表示,海量用户的选择和信任,意味着需要肩负更大的责任。在提高学生的数字化素养的同时,必须帮助孩子们养成更明智、更安全的网络使用习惯。这也是作业帮发布“寸功”平台的初心。

作业帮副总裁苏静在发布会上介绍,“寸功平台”依托作业帮的大数据科技,通过“AI赋能信息审核”、“全量数据监测和预警”、“数据分析适当干预”、“综合防护”这四大功能,全面防护青少年信息安全,在不良信息的源头建立起网络“防火墙”的同时,构建完整的网络信息安全体系,帮孩子抵御不良信息,免受其侵扰和影响。

“AI赋能信息审核是指我们将人工智能技术引入到审核全流程,提升准确率和审核效率,对作业帮全平台所有青少年用户上传信息进行7×24小时监测审核。”苏静介绍,作业帮利用其技术上最擅长的图像识别、OCR文本识别等技术,训练完成了用于青少年信息审核的特有模型,有效识别海量信息中的色情图片、优质图片、试题图片,以及图片中的文字、URL地址、推广信息等。

全量数据监测和预警功能是指寸功平台还针对特定信息进行打标签预警,并根据不同情况发出及时准确预警。苏静举例说,“如自杀信息,就会直接触发系统关键词预警,当班的员工会及时对信息进行人工判断,是否是用户发出了自杀信号,如参加了蓝鲸游戏等,进而员工会通过平台注册手机号向其家长推送干预信息”。

数据分析适当干预功能的作用是在作业帮拥有的海量数据和大数据技术的基础上,通过数据分析进行画像,将更多人文关怀、更多正向引导知识输出给孩子们,对不良信息的发布者进行适当干预。“我们发现,在上传黄色信息的用户数据中,小学生比例超过初中生和高中生。除了将这些不良信息消灭在后台之外,我们还可以为这些明显有着各种困惑的孩子们再做些什么?我们可以在得到孩子父母的授权后,为孩子推荐性教育视频。”

综合防护功能是从3个方向进行全面防控,一是正向引导,在政府的指导和社会机构的帮助下,向青少年用户推送正能量资讯,在青少年德育、家庭教育等方向深入合作;二是扶贫公益,联合更多公益机构和组织,提供便捷的救助通道,定向精准帮扶;三是一键求助,未来在政府和社会各界更广泛的指导和支持下,将逐步上线一键求助功能。

“少年辛苦终身事,莫向光阴惰寸功。”苏静说,“平台以‘寸功’名,意为作业帮愿意为守护青少年信息安全,点点滴滴、尽心尽力,不惰寸功。”(半月谈记者 原碧霞)

责任编辑:王静

热门推荐