近年來，人工智能技術(shù)的迅猛發(fā)展帶來了前所未有的便利和變革，從智能家居到自動(dòng)駕駛，從智能醫(yī)療到金融科技，AI已經(jīng)滲透到我們生活的方方面面。然而，隨著其廣泛應(yīng)用，一些亂象也逐漸浮出水面，引發(fā)了社會(huì)各界的廣泛關(guān)注和討論。近日，一些短視頻平臺(tái)上出現(xiàn)了大量利用AI技術(shù)合成某知名企業(yè)家吐槽視頻的事件，這些視頻逼真的效果讓不少網(wǎng)友信以為真，不僅損害了企業(yè)家的名譽(yù)，更引發(fā)了關(guān)于AI技術(shù)安全與倫理的深刻反思。

AI語音合成技術(shù)的濫用，是此次事件的核心。通過簡(jiǎn)單的操作，用戶可以利用AI軟件采集公眾人物的原始音頻，生成逼真的配音內(nèi)容。這種技術(shù)雖然為內(nèi)容創(chuàng)作提供了更多可能性，但同時(shí)也帶來了嚴(yán)重的倫理和法律問題。未經(jīng)授權(quán)使用他人聲音進(jìn)行惡搞、造謠，不僅侵犯了個(gè)人的人格權(quán)，還擾亂了網(wǎng)絡(luò)空間生態(tài)秩序，帶來惡劣的社會(huì)影響。

在“科技倫理，科技向善”的核心理念下，我們不得不重新審視AI技術(shù)的發(fā)展與應(yīng)用。AI技術(shù)的初衷是為人類服務(wù)，提升生活質(zhì)量，但如果缺乏有效的監(jiān)管和倫理約束，技術(shù)就可能走向其反面，成為危害社會(huì)的工具。因此，我們需要在推動(dòng)AI技術(shù)發(fā)展的同時(shí)，建立相應(yīng)的倫理和法律框架，確保技術(shù)向善。

首先，從技術(shù)的角度來看，AI的發(fā)展需要不斷突破技術(shù)瓶頸，提升算法的準(zhǔn)確性和效率。然而，技術(shù)的突破不能以犧牲倫理和法律為代價(jià)。例如，在AI語音合成領(lǐng)域，雖然技術(shù)可以高度還原聲音樣本，但如果沒有嚴(yán)格的授權(quán)和監(jiān)管機(jī)制，就可能引發(fā)大規(guī)模的侵權(quán)事件。因此，技術(shù)開發(fā)者需要在技術(shù)設(shè)計(jì)時(shí)考慮倫理和法律因素，確保技術(shù)的合法性和安全性。

其次，從法律的角度來看，現(xiàn)有的法律法規(guī)需要跟上科技發(fā)展的步伐，對(duì)AI技術(shù)的應(yīng)用進(jìn)行明確的約束。在AI技術(shù)快速發(fā)展的背景下，傳統(tǒng)的法律法規(guī)可能已經(jīng)無法適應(yīng)新的技術(shù)環(huán)境。因此，我們需要制定新的法律法規(guī)，明確AI技術(shù)的使用范圍、授權(quán)機(jī)制、責(zé)任歸屬等問題，為技術(shù)的發(fā)展提供法律保障。同時(shí)，監(jiān)管部門也需要加強(qiáng)對(duì)AI技術(shù)的監(jiān)管，及時(shí)發(fā)現(xiàn)和處理違法違規(guī)行為，維護(hù)市場(chǎng)秩序和消費(fèi)者權(quán)益。

再次，從倫理的角度來看，AI技術(shù)的發(fā)展需要遵循倫理原則，尊重人的尊嚴(yán)和權(quán)利。在AI語音合成領(lǐng)域，未經(jīng)授權(quán)使用他人聲音進(jìn)行惡搞、造謠等行為，嚴(yán)重侵犯了個(gè)人的人格權(quán)和名譽(yù)權(quán)。這種行為不僅違反了倫理原則，也損害了社會(huì)公共利益。因此，我們需要加強(qiáng)對(duì)AI技術(shù)的倫理教育，提升公眾對(duì)技術(shù)的認(rèn)知和尊重，形成健康的技術(shù)使用氛圍。

此外，AI技術(shù)的安全也是不容忽視的問題。隨著AI技術(shù)的廣泛應(yīng)用，數(shù)據(jù)泄露、濫用等風(fēng)險(xiǎn)也逐漸增加。這些風(fēng)險(xiǎn)不僅可能損害個(gè)人隱私和財(cái)產(chǎn)安全，還可能對(duì)國家安全和社會(huì)穩(wěn)定造成威脅。因此，我們需要加強(qiáng)對(duì)AI技術(shù)的安全防護(hù)，建立健全數(shù)據(jù)保護(hù)機(jī)制，確保技術(shù)的安全性和可靠性。

在推動(dòng)AI技術(shù)發(fā)展的同時(shí)，我們還需要關(guān)注其對(duì)社會(huì)的影響。AI技術(shù)的廣泛應(yīng)用可能引發(fā)就業(yè)結(jié)構(gòu)的變化、社會(huì)不平等的加劇等問題。因此，我們需要加強(qiáng)對(duì)AI技術(shù)的社會(huì)影響評(píng)估，制定相應(yīng)的政策和措施，確保技術(shù)的發(fā)展能夠惠及全體人民，實(shí)現(xiàn)社會(huì)的可持續(xù)發(fā)展。

為了應(yīng)對(duì)AI技術(shù)帶來的挑戰(zhàn)，我們需要加強(qiáng)跨學(xué)科的合作與交流?？萍紓惱?、法律、社會(huì)學(xué)等領(lǐng)域的專家需要共同探討如何建立有效的倫理和法律框架，引導(dǎo)技術(shù)向善。同時(shí)，我們還需要加強(qiáng)國際合作與交流，共同應(yīng)對(duì)全球性的技術(shù)挑戰(zhàn)和問題。

隨著AI技術(shù)的不斷發(fā)展，我們期待看到一個(gè)更加智能、便捷、安全的世界。但在這個(gè)過程中，我們不能忽視倫理和法律的重要性。只有在科技倫理的指引下，AI技術(shù)才能真正為人類服務(wù)，實(shí)現(xiàn)其應(yīng)有的價(jià)值。

作者：王金橋，中科院自動(dòng)化所副總工程師，大模型研究中心主任，中國科學(xué)院大學(xué)人工智能學(xué)院教授，武漢人工智能研究院院長。

審核：于乃功 北京工業(yè)大學(xué)信息學(xué)部智能機(jī)器人研究所副所長

圖片來自版權(quán)圖庫，未經(jīng)許可選用可能存在版權(quán)風(fēng)險(xiǎn)

文章由科普中國-創(chuàng)作培育計(jì)劃出品，轉(zhuǎn)載請(qǐng)注明來源。