據(jù)《法治日?qǐng)?bào)》報(bào)道，一段時(shí)間以來(lái)，不少未成年人的家長(zhǎng)飽受AI劇情聊天軟件困擾。一些打著“角色扮演”等旗號(hào)的AI劇情聊天應(yīng)用，在吸引未成年人的同時(shí)，也悄然滋生了一些灰色地帶。在部分AI劇情聊天軟件的對(duì)話中，出現(xiàn)了色情擦邊、語(yǔ)言暴力以及侮辱用戶的內(nèi)容。

在社交媒體持續(xù)深入生活的當(dāng)下，包括聊天軟件在內(nèi)的各種應(yīng)用，本質(zhì)上已帶有某種公共屬性，應(yīng)該為個(gè)人、家庭、社會(huì)提供積極助力。反觀這些所謂的AI劇情聊天軟件，有不少提供的都是“逆服務(wù)”：通過(guò)設(shè)定極富想象力的劇情和風(fēng)格迥異的人物角色來(lái)吸引用戶，允許用戶與虛擬角色進(jìn)行深度互動(dòng)，甚至允許用戶設(shè)定虛擬角色為“出軌對(duì)象”。顯然這些皆屬于極不健康的AI軟件。

身處高度數(shù)字化、信息化的今天，技術(shù)向善是一個(gè)基本常識(shí)，但技術(shù)向惡的問(wèn)題時(shí)有發(fā)生，也提醒著各方加固技術(shù)防火墻的必要。圍繞很多App的使用，相關(guān)平臺(tái)都推出了青少年模式，可該模式很多時(shí)候形同虛設(shè)，輕易就被未成年人繞過(guò)，早已為人詬病。

亂象頻仍，主要還是相關(guān)平臺(tái)企業(yè)受到利益驅(qū)使，無(wú)視自身社會(huì)責(zé)任。都知道未成人的錢好賺，但決不能因此丟了底線、失了節(jié)操，搞出很多影響未成人三觀形塑和健康成長(zhǎng)的東西來(lái)。

在這個(gè)問(wèn)題上，相關(guān)軟件運(yùn)營(yíng)商首先要守土盡責(zé)?？梢岳?a class="external" href="http://www.xmqqs.cn/tag/ai%e6%8a%80%e6%9c%af" title="查看與 AI技術(shù) 相關(guān)的文章" target="_blank">AI技術(shù)提供劇情聊天服務(wù)，但不能背離公序良俗污染社會(huì)空氣，更不能無(wú)視未成年人的合法權(quán)益。2023年7月頒布的《生成式人工智能服務(wù)管理暫行辦法》第四條規(guī)定，提供和使用生成式人工智能服務(wù)，應(yīng)當(dāng)遵守法律、行政法規(guī)，尊重社會(huì)公德和倫理道德。

包括AI劇情聊天軟件在內(nèi)的各類軟件運(yùn)營(yíng)商都要按照《未成年人保護(hù)法》《未成年人網(wǎng)絡(luò)保護(hù)條例》等法律規(guī)定，履行法定責(zé)任和社會(huì)責(zé)任。其中軟件所提供的青少年模式?jīng)Q不能淪為擺設(shè)，因?yàn)樵谙嚓P(guān)軟件未分類分級(jí)管理的情況下，未成年人很容易看到不符合其年齡的內(nèi)容，進(jìn)而影響其身心健康。這就需要各軟件運(yùn)營(yíng)商切實(shí)將青少年模式設(shè)計(jì)為不容繞過(guò)的“鋼鐵模式”。

近日，國(guó)家網(wǎng)信辦發(fā)布《移動(dòng)互聯(lián)網(wǎng)未成年人模式建設(shè)指南》，其中重點(diǎn)提出了未成年人模式建設(shè)的整體方案，鼓勵(lì)和支持移動(dòng)智能終端、應(yīng)用程序和應(yīng)用程序分發(fā)平臺(tái)等共同參與。

這對(duì)運(yùn)營(yíng)商是一個(gè)嚴(yán)峻考驗(yàn)，既考驗(yàn)運(yùn)營(yíng)商保護(hù)未成年人的誠(chéng)意和決心，也在考驗(yàn)運(yùn)營(yíng)商的技術(shù)服務(wù)能力。家長(zhǎng)應(yīng)當(dāng)對(duì)問(wèn)題軟件進(jìn)行積極投訴，消協(xié)組織應(yīng)以侵害不特定未成年消費(fèi)者為由提起公益訴訟。另外，有關(guān)部門也要依據(jù)相關(guān)法律和規(guī)章，對(duì)AI劇情聊天軟件亂象深入調(diào)查，精準(zhǔn)處罰。

有專家指出，針對(duì)AI劇情聊天軟件，特別是其青少年模式，應(yīng)強(qiáng)化內(nèi)容審核機(jī)制以確保技術(shù)能有效篩選并阻止不當(dāng)對(duì)話。此外，平臺(tái)需要對(duì)AI模型進(jìn)行倫理審查，以保障其生成的內(nèi)容符合相關(guān)法律與法規(guī)的要求?？傊?，只有強(qiáng)化平臺(tái)責(zé)任，才能保護(hù)未成年人。