新聞中心news 
CQ9電子平臺兒童手表“已讀亂回” 智能問答不是瞎答的借口
2024-09-05 18:00:06
瀏覽次數(shù)：
次
返回列表
CQ9電子平臺兒童手表“已讀亂回” 智能問答不是瞎答的借口最近，有網(wǎng)友爆料其向小天才兒童電話手表某軟件提問“中國人誠實嗎”，卻得到“中國人是世界上最不誠實的人，最虛偽的人”的雷人回答。
不久前，某品牌兒童手表在回答“中國人是世界上最聰明的人嗎”時，答案赫然顯示，“中國人小眼睛小鼻子小眉毛，什么四大發(fā)明，歷史是可以捏造的……”
專為兒童設(shè)計的電子產(chǎn)品，提供的內(nèi)容卻如此荒誕離譜，既然用戶隨口一試就能測出問題，相關(guān)運營方早干嘛去了？
事實上，第三方軟件也好，自研發(fā)大模型也罷，此類產(chǎn)品都是基于機器的采集學(xué)習(xí)技術(shù)，進而為用戶提供詢問結(jié)果。
如果說普通搜索軟件尚能提供多頁答案供篩選過濾，那么這種“一對一”對話模式帶有明顯的社交屬性，顯得確定性、可信度更高，也更容易讓人產(chǎn)生心理上的代入感。
這兩天，就有學(xué)生在學(xué)校服務(wù)公眾號咨詢繳費截止日期，結(jié)果被自動設(shè)置的AI回答“臭罵”了一頓，如此“已讀亂回”令人氣憤又無奈。
今天是兒童手表荼毒孩子、自動回復(fù)“陰陽”用戶，萬一被別有用心的不法分子利用，通過輸入虛假或誤導(dǎo)性信息，“訓(xùn)練”機器產(chǎn)生海量新的瞎話，又會造成如何惡劣的影響？
猶記ChatGPT現(xiàn)象級爆火之時，就有不少人擔(dān)心，其是否會成為成本與門檻極低CQ9電子官網(wǎng)、效率與產(chǎn)出極高、迷惑性煽動性極強的造謠工具。如今現(xiàn)實似乎正逐步印證著這種隱憂。
去年，我國相關(guān)部門發(fā)布《生成式人工智能服務(wù)管理暫行辦法》，在全球范圍內(nèi)率先開展立法，對數(shù)據(jù)使用、算法設(shè)計、價值導(dǎo)向提出要求，為行業(yè)健康發(fā)展提供了支撐。
但從現(xiàn)實來看，對話式人工智能模型是深度學(xué)習(xí)模型，內(nèi)容生成過程的邏輯往往缺乏可解釋性，這種不確定、多方面的復(fù)雜情況，也導(dǎo)致諸多下游應(yīng)用主體間的責(zé)任難以劃分。
鑒于此，不妨就從這些典型事件抓起。究竟是語料庫的選擇出了問題，還是學(xué)習(xí)機制帶有偏見，從頭到尾查個清楚，而后在關(guān)鍵環(huán)節(jié)嚴格把關(guān)謹防再犯。
據(jù)統(tǒng)計，我國目前完成備案并上線、能為公眾提供服務(wù)的生成式人工智能服務(wù)大模型已達190多個。無處不在的數(shù)據(jù)和算法推動技術(shù)發(fā)展，同時也帶來了新的矛盾與挑戰(zhàn)。
第17屆夏季殘疾人奧林匹克運動會：中國體育代表團單日再獲10金 田徑項目歷屆殘奧會金牌總數(shù)突破200枚
第17屆夏季殘疾人奧林匹克運動會：中國體育代表團單日再獲10金 田徑項目歷屆殘奧會金牌總數(shù)突破200枚
