【教育老炮开讲】AI教育应用中的伦理隐患(2019.9.29)

2019年09月29日 11:07:33 来源:软云科技

首先声明,老炮儿是坚定的AI教育应用的支持者,但同时也是忧虑者,中国AI教育应用目前的发展态势是需要冷静思考的。


AI人工智能是计算机技术发展到高级阶段,融合数学、统计学、概率、逻辑、伦理等多学科于一身的复杂系统,而“伦理”是其中最重要却最易被忽视的。


近期,瑞典一所高中因实验用人脸识别系统统计学生出勤率,而被瑞典数据监管机构处以20万瑞典克朗的罚款,此事引发了人们对人工智能在教育应用中的伦理担忧。


其实,目前我们国家教育领域的很多AI应用产品都是基于人脸识别系统和个体定位系统的,比如所谓的嵌入芯片和GPS定位的“智能校服”,好未来用于课堂教学的表情识别系统“魔镜系统”,海风教育用于检测注意力的眼球焦点追踪系统“好望角”,甚至还有监测学生健康指数的“健康指环”等等。


让学生变得无比透明,无所遁形,这到底是一件好事还是场教育伦理灾难?很遗憾,老炮儿联想到了“智能养猪”。

学业测评 教育测量 测评服务


观点1:人类学习成长的核心动力源于“内生”和实践。

从人类进化角度来看,极端而言之——科技的进步使人类这个物种的生物属性正在逐步懒惰“退化”,科技尤其是AI在教育领域的运用过度强化了外力对学生内生动力的干预和影响,这是违背教育基本规律的,更是有悖于人类生物体的成长周期的。

“你所说的黑是什么黑?你所说的白是什么白?”,单纯利用科技手段实现虚幻的速成体验,而没有真正的生物性体验,这样的教育和这样的成长是不会成功的,正如所有速生的猪肉都不香一样。


观点2:凡是酷炫的,大都不具备持久性和深刻性。

目前市场上的AI教育应用产品呈现大都很酷炫,但从教育的复杂性和长期性特质而言,其教育伦理依据却极其脆弱。将教育简单化和技术化,过度追求昙花般的结果性炫酷呈现,忽略了教育过程的底线周期,这就如同闪电,只有炫目,却无持久,缺少了教育教学自有的伦理属性,虽然强烈却转瞬即逝。

教育的深刻更多地是呈现于其复杂的过程之中,教育没有一种简单的诠释,尤其是面对一个个鲜活的学生个体时。遗憾的是,我们很多AI教育应用产品没有意识到这一点。


观点3:教师权威受到空前威胁,教师的人格影响被大大弱化。

蔡元培做北大校长时曾推行过一个改革,很多学生反对,蔡元培大怒,来到学生面前,大吼着要和学生决斗,学生纷纷避之,做鸟兽状,其实这是蔡元培人格和学识的权威力所致。

中国历来讲究“师道尊严”,“师道尊严”的形成主要来源于“学识权威”和“人格权威”。AI教育应用在一定程度上力图把教学用技术简单化,削弱了教师的学识权威;同时技术的上位使教师“言传身教”的空间受到影响,教师人格影响被弱化,教育教学中最重要的“教育”因素受到极大影响,单一教学化倾向日趋严重,这将是现代教育伦理的重大危机。


观点4:学生思维主权和思维成长有可能在一定程度上被AI剥夺,学生成长过程中必不可少的错误体验大大减少了。

很多AI教育应用产品致力于教与学的简捷和高效化,却忽视了学生的思维能力培养建设,这是最令人担忧的教育伦理缺失。

在最初的电化教学时代,就已经有很多人意识到了这一点,以至于后来很多学校作出专门规定,强调加大不插电教学的比例,给学生留出思考的实践,培养学生的思维习惯和思维能力。

时下流行的很多AI产品和伪VI产品以拍照答疑等手段,指向答案直接获取,这是严重违背教育教学规律的,意味着学生思维主权的丧失和思维成长的畸形,说到底是一种思维培养急功近利的不科学行为,害莫大焉。

在学生成长过程中,一定程度的错误体验是必不可少的,“失败是成功之母”这句话是有着重大成长逻辑意义的,没有失败和错误体验的成长是不完整的,更是不深刻的。而AI的完美,恰恰是有违这一逻辑公理的。


观点5:学生个体自由与校本个性体系受到冲击,有可能形成千校一面的教育生态。

学生的个性成长极为重要,一定程度的个体自由是形成学生个性品质的重要先决条件。部分AI教育应用产品对学生的笼罩性功能深度介入了学生几乎所有的时空,剥夺了本来就很稀缺的个人隐私空间,这是对教育伦理的严重摧毁。

没有自由和隐私的成长注定不是成熟的成长。

在学校建设层面,很多AI教育应用产品自以为是,试图用普适性大逻辑进行全方位覆盖,具有鲜明个性的校本逻辑体系往往不被兼容或者被严重漠视,很多校长逐步变为一个技术依赖者,成为了一个技术管理者,所谓的“智慧校园”变味为“技术校园”和“数据校园”,学校的人文色彩进一步淡化,学校逻辑体系蜕变为生产线,千校一面,千师一面,千生一面,教育的鲜活无从谈起。


观点6:深刻无寻,肤浅泛滥。

中国本身就习惯于运动思维,AI教育应用浪潮中,我们又不出意外地看到了运动化和肤浅化的端倪。在教育信息化的上半场,我们痛心地收获了教育硬件令人触目惊心的7%的开箱率,而在以AI为标志的教育信息化下半场,肤浅化和运动化的泛滥可能给我们带来的是教育伦理体系的崩塌,那绝对会成为中国教育事业的一个灾难。


结语:

教育源于宗教,有其自身的逻辑规律和伦理体系,万万不能轻慢;科技是第一生产力,但并不是上层建筑;人类是个生物物种,教育和科技应该把人当“人”看!