1. 創(chuàng)業(yè)頭條
  2. 前沿領(lǐng)域
  3. 人工智能
  4. 正文

當(dāng)年輕人開始談?wù)揂I智能倫理

 2020-10-29 09:54  來源:A5專欄  我來投稿 撤稿糾錯

  域名預(yù)訂/競價,好“米”不錯過

賽博朋克的電影里,常??梢钥吹竭@樣的構(gòu)想:

社會已經(jīng)被財閥集團所控制,人工智能充當(dāng)了統(tǒng)治的工具,所有人的行為都要遵循機器的邏輯、服從算法的規(guī)則。然后生活在社會最底層的主角,找到了其中的漏洞并嘗試走出被操控的宿命。

可能在大多數(shù)的認知里,類似的反烏托邦世界離我們還很遙遠。但當(dāng)人工智能技術(shù)從象牙塔走進現(xiàn)實生活,與AI倫理有關(guān)的議題逐漸成為學(xué)術(shù)界爭論的焦點,甚至有一些年輕人也開始思考算法的倫理和風(fēng)險。

比如在B站上小有名氣的視頻博主“在下小蘇”制作的一期內(nèi)容里,對DeepFake、人機戀愛等話題進行了討論 ,諸如DeepFake等黑科技被用來惡搞甚至是作惡的時候,我們對人工智能應(yīng)該秉持什么樣的態(tài)度?一旦“技術(shù)中立”被越來越多人抨擊,我們應(yīng)該如何處理新時代的人機關(guān)系?

或許AI倫理的概念還有些宏觀,卻是與每一個人息息相關(guān)的事。

01 無處不在的算法歧視

人工智能離我們并不遙遠。

當(dāng)你打開資訊應(yīng)用時,算法會根據(jù)你的喜好自動推薦新聞;當(dāng)你去電商平臺購物的時候,算法會結(jié)合你的習(xí)慣推薦對應(yīng)的商品;當(dāng)你去求職應(yīng)聘的時候,首先處理簡歷并進行篩選的可能也是算法;當(dāng)你去醫(yī)院看病就醫(yī)的時候,醫(yī)生可能會利用某個算法模型來判斷患病的可能性……

算法正在以前所未有的速度滲透到我們的生活中。在支持者眼中,算法可以在一些決策中減少人為干預(yù),進而提升決策 的效率和準(zhǔn)確性。可從批判的角度出發(fā),算法是否帶有人為的偏見,人們的命運是否會被算法左右?

遺憾的是,算法歧視現(xiàn)象往往是算法落地應(yīng)用的衍生品。

亞馬遜曾在2014年開發(fā)了一套“算法篩選系統(tǒng)”,目的是在招聘的時候幫助HR篩選簡歷,開發(fā)團隊打造了500個算法模型 ,同時教算法識別50000個曾經(jīng)在簡歷中出現(xiàn)的術(shù)語,然后對應(yīng)聘者的不同能力分配權(quán)重。

最后開發(fā)團隊卻發(fā)現(xiàn),算法對男性應(yīng)聘者有著明顯的偏好,如果識別出簡歷中有女子足球俱樂部、女子學(xué)校等經(jīng)歷時,就會對簡歷給出相對比較低的分?jǐn)?shù)。這個算法模型最終被路透社曝光,亞馬遜也適時停止了算法的使用,令人深思的卻是:為何“沒有價值觀”的算法開始有了偏見?

無獨有偶,2018年IG奪冠的喜訊讓互聯(lián)網(wǎng)沸騰的時候,戰(zhàn)隊老板王思聰隨即在微博上進行抽獎,結(jié)果卻出人意料:獲獎名單中有112名女性獲獎?wù)吆?名男性獲獎?wù)?,女性獲獎?wù)弑嚷适悄行缘?12倍,而參與用戶的男女比率是1:1.2。

于是不少網(wǎng)友質(zhì)疑抽獎算法的公平性,甚至有網(wǎng)友主動測試抽獎算法,將獲獎人數(shù)的設(shè)置大于參與人數(shù),仍然有大量用戶無法獲獎。原因是這些用戶被算法判定為“機器人”,意味著在任何抽獎活動中都沒有中獎的機會。

在算法的黑匣子面前,我們看到的大多只有結(jié)果,卻無法理解決策的過程。與之相似的案例可能比比皆是,不過是鮮有人關(guān)注罷了。

最直接的教訓(xùn)就是互聯(lián)網(wǎng),硅谷自由的法度誕生了互聯(lián)網(wǎng),以至于一些原罪被人們選擇性忽略,最終在20多年后出現(xiàn)了一輪輪對互聯(lián)網(wǎng)的批判。正如*在《減少互聯(lián)網(wǎng)是唯一的答案》一文中,將互聯(lián)網(wǎng)歸結(jié)為帶有集權(quán)主義意識形態(tài)的技術(shù),互聯(lián)網(wǎng)企業(yè)被形容為一群驅(qū)使著技術(shù)的“邪惡魔王”。

對互聯(lián)網(wǎng)的批判大概率不會讓人們減少互聯(lián)網(wǎng)的使用,卻給出了一個思路:為何互聯(lián)網(wǎng)會從萬眾仰慕的行業(yè)淪為過街老鼠,倘若算法的應(yīng)用和算法歧視現(xiàn)象不被制約,又將在未來某一天掀起多大的波瀾?

02 根源在于人性的偏見

當(dāng)然,算法的“偏見”并不缺少合理的解釋。

一種說法是將機器學(xué)習(xí)結(jié)果的偏見歸咎于數(shù)據(jù)集偏見,而非算法偏見的“技術(shù)中立”。比較知名的支持者就有被稱作“卷積神經(jīng)網(wǎng)絡(luò)之父”的楊立昆,比較常見的論證是:如果某人持菜刀砍了人,難道是菜刀廠商甚至“菜刀本刀”的錯?

另一種解釋是數(shù)據(jù)量太小,當(dāng)算法學(xué)習(xí)的數(shù)據(jù)量越大時,算法的錯誤會越少,而且結(jié)果會越趨向于精準(zhǔn)。即使可以開發(fā)出一套篩選系統(tǒng),將不帶偏見的數(shù)據(jù)輸入給算法,也無法達到絕對的公平。畢竟“主流”永遠擁有更多的數(shù)據(jù),算法最終會偏向于大多數(shù),對“非主流”產(chǎn)生所謂的歧視現(xiàn)象。

兩種說法其實講了一個相同的道理:計算機領(lǐng)域有個著名的縮寫是GIGO,即Garbage in, Garbage Out。翻譯成中文的意思是,如果輸入的是垃圾數(shù)據(jù),那么輸出的也將是垃圾的結(jié)果。算法就像是現(xiàn)實世界的鏡子,可以折射出社會中人們意識到或者無意識的偏見,如果整個社會對某個話題有偏見,算法輸出結(jié)果自然是有歧視的。

德國哲學(xué)家雅斯貝爾斯曾在《原子彈與人類的未來》寫道:“技術(shù)本身既非善,亦非惡,但它既可以用于善,也可以用于惡。它本身不包含任何觀念:既不包含完美的觀念,也不包含毀滅的邪惡觀念;它們都有別的源頭——在人類自身之中。”

也就是說,算法歧視的根源其實在于人性的偏見,“算法中立”之流的觀點本質(zhì)上是對人性偏見的掩飾,也恰恰是人工智能讓人恐懼的地方 。

任何一項技術(shù)的出現(xiàn),都有“工具性”和“目的性”兩個維度,選擇權(quán)其實留給了人類自身。然而人性往往經(jīng)不起考驗,無法想象當(dāng)“工具”交到人們手中又缺少節(jié)制的時候,將會做出多大的惡。

就像“小蘇”在視頻中提到的DeepFake算法,2017年亮相時就引起了巨大的轟動,一位名為Deepfakes的用戶將神奇女俠扮演者蓋爾·加朵的臉換到了一部*女主角身上,以假亂真的效果引發(fā)了巨大的爭議。

由于DeepFake算法的出現(xiàn),原本只有專業(yè)電影制作機構(gòu)才能完成的任務(wù),普通人經(jīng)過一段時間的學(xué)習(xí)也能掌握,就像是一頭沖出籠子的野獸:加蓬總統(tǒng)Ali Bongo利用DeepFake合成的新年致辭,意外引發(fā)了軍方的兵變;有人用DeepFake合成馬來西亞經(jīng)濟部長與男性在一起的視頻,給政府造成了不小的煩惱;在世界上無數(shù)隱蔽的角落里,有人利用DeepFake進行欺詐勒索……

在這個“算法無處不在”的世界里,我們該如何自處?

03 把野獸關(guān)進鐵籠子里

作為新時代的“火種”,我們可能無法拒絕人工智能。

因為人工智能的應(yīng)用,質(zhì)檢線上的工人無須再盯著強光下的產(chǎn)品用眼睛尋找瑕疵;因為人工智能的應(yīng)用,基層的醫(yī)生也可以根據(jù)病人的檢查結(jié)果做出準(zhǔn)確的病情判斷;因為人工智能的應(yīng)用,一群不會輸入法的老年人也能用語音走進互聯(lián)網(wǎng)世界……

不過一切美好的前提在于,先將野獸關(guān)進鐵籠子里。

或許可以借用《人民日報》在評論“快播案”時的觀點:技術(shù)不但必然負荷價值,而且還有倫理上“應(yīng)當(dāng)”負荷的“良善”價值:維持法律與習(xí)俗的穩(wěn)定,遠離破壞和顛覆。一旦違逆了這條原則,任何技術(shù)都將被打上可恥的烙印。

言外之意,技術(shù)不應(yīng)該是獨立于現(xiàn)實的烏托邦,科技的崛起離不開必要的監(jiān)管,在法律法規(guī)上劃清技術(shù)應(yīng)用的邊界,為技術(shù)中立套上倫理的枷鎖,可以說是人工智能技術(shù)行穩(wěn)致遠的前提所在。

同時越來越多的學(xué)者也在討論代碼與法律之間的關(guān)系,擔(dān)憂算法會不會動搖現(xiàn)有人類社會法律的基本框架,并提出了“算法規(guī)制”的概念,一種以算法決策為手段的規(guī)制治理體系,可以理解為利于算法治理的工具。

而除了這些防御性的機制,或許還存在另外一種可能:對算法開發(fā)者進行適當(dāng)?shù)?ldquo;AI倫理”教育,確定一些算法的“基本準(zhǔn)則”,就像“機器人永不能傷害人類”的鐵律一樣,從源頭杜絕算法的濫用。

以“在下小蘇”為代表的視頻博主不失為一個切入口。盡管“在下小蘇”的AI倫理節(jié)目不排除和曠視合作的嫌疑,可如果一家人工智能企業(yè)愿意走進年輕人聚焦的互動場域,以年輕人熟悉的語境和表達方式,向外界傳遞AI倫理的概念和自身的AI倫理實踐,何嘗不是一種行之有效的啟蒙方式 。

目前包括中國社科院、清華大學(xué)、復(fù)旦大學(xué)、上海交大等在內(nèi)的科研機構(gòu)與高校,均已經(jīng)開始進行AI倫理的相關(guān)研究。世界人工智能大會、北京智源大會等行業(yè)頂級峰會,也將AI倫理作為討論的議題。在人工智能普及過程中扮演了領(lǐng)頭羊作用的企業(yè)們,同樣應(yīng)該肩負普及AI倫理觀念的義務(wù),為年輕人上好AI第一課。

早在一百多年前的時候,美國最高法院大法官路易斯·布蘭代斯就曾發(fā)表言論稱:“陽光是最好的殺毒劑。”同樣的道理也適用于人工智能教育,在教會年輕人用人工智能改變世界的同時,還要讓他們明白善惡、底線和邊界。

沿用前面提到的那個例子,菜刀在設(shè)計它的時候就已經(jīng)標(biāo)注了它的用途,人工智能也是如此,應(yīng)該將其控制在可理解的天花板下,而非放任在失控的黑箱中,AI倫理就是其中的天花板。

04 寫在最后

無可否認的是,伴隨著人工智能的大規(guī)模產(chǎn)業(yè)化應(yīng)用,一些無先例可循的人機矛盾逐漸浮出了水面,以至于找到一種可預(yù)期的、可被約束的、行為向善的人工智能治理機制,成了人工智能時代的首要命題。

或許無須太過沮喪 ,從鉆木取火的原始時代到計算機時代,人類一直走在學(xué)習(xí)科技、利用科技、掌控科技的路上,期間雖然走了一些彎路,終究做出了一次次善的選擇,找到了正確的馭火之術(shù)。而學(xué)習(xí)AI倫理的“AI第一課”,恰恰就是規(guī)避AI走向惡的一面,理性駕馭AI的正確開始。

當(dāng)Z世代的年輕人都在討論AI倫理的時候,構(gòu)建出一套完美的人工智能治理規(guī)則,已經(jīng)不再遙不可及。

申請創(chuàng)業(yè)報道,分享創(chuàng)業(yè)好點子。點擊此處,共同探討創(chuàng)業(yè)新機遇!

相關(guān)標(biāo)簽
ai智能

相關(guān)文章

  • “創(chuàng)造市場”與“算法進化”,中美AI競速的岔路口

    “人工智能的商業(yè)模式,是要創(chuàng)造一個市場,而非一個算法”。這是世界AI泰斗MichaelI.Jordan的觀點。而當(dāng)前的全球AI市場,占據(jù)主導(dǎo)地位的中美雙方,卻也走出了兩條截然不同的技術(shù)路徑,前者執(zhí)著于前沿技術(shù)的探索,后者則發(fā)力應(yīng)用優(yōu)化和商業(yè)化落地。南轅北轍的兩個方向,或許已經(jīng)無法直接進行排位先后、優(yōu)

    標(biāo)簽:
    ai智能
  • 智能體進化發(fā)展了一年,現(xiàn)在的RPA Agent迭代到什么程度了?

    智能體進化發(fā)展了一年,現(xiàn)在的RPAAgent迭代到什么程度了?從實在智能最新發(fā)布的實在Agent7.0,看RPAAgent的迭代升級抓取豆瓣信息、自己制作PPT,這款A(yù)IAgent真的實現(xiàn)了流程全自動化AIAgent構(gòu)建到執(zhí)行全自動化,持續(xù)進化RPAAgent再次降低智能體應(yīng)用門檻實在智能重磅發(fā)布實

  • 崔大寶:大模型降溫背后的難點、卡點、節(jié)點

    崔大寶|節(jié)點財經(jīng)創(chuàng)始人進入2024年,大模型似乎有熄火之勢:資本市場,與之關(guān)聯(lián)的概念炒不動了,英偉達股價動輒暴跌重挫,引發(fā)“泡沫戳破”的擔(dān)憂;消費市場,BATH們的推新活動少了,產(chǎn)品更新迭代的速度慢了,民眾的關(guān)注度降了……熱鬧的大概只剩下兩場酣仗:自5月15日字節(jié)跳動宣布“以厘計費”,打響國內(nèi)大模型

    標(biāo)簽:
    大模型
  • 這一屆“出道”的數(shù)字人,已經(jīng)拿捧上了“鐵飯碗”

    文|智能相對論作者|陳泊丞好消息!你心心念念的事業(yè)單位發(fā)錄取公告了!壞消息!他們沒錄你,錄了個數(shù)字人。圖片來源網(wǎng)絡(luò)隨著數(shù)字人技術(shù)的突破,越來越多的傳統(tǒng)企業(yè)和機構(gòu)開始用上了“數(shù)字員工”。甚至很多中國人心心念念的“鐵飯碗”,也被這些數(shù)字人給捧上了。數(shù)字人捧上了“鐵飯碗”簡單翻看一下全國各地事業(yè)單位的“錄

    標(biāo)簽:
    數(shù)字人
  • 來到IPO關(guān)口,地平線離“三分天下”還有多遠?

    黑芝麻智能敲鐘后,港交所門口又有一些智駕芯片企業(yè)引發(fā)關(guān)注。據(jù)悉,近日地平線已通過中國證監(jiān)會IPO備案,擬發(fā)行不超過11.5億股境外上市普通股并在香港聯(lián)合交易所上市,預(yù)計籌集約5億美元資金。從天眼查可以了解到,該公司成立于2015年,是一家乘用車高級輔助駕駛(ADAS)和高階自動駕駛(AD)解決方案供

  • 機器人大會引領(lǐng)產(chǎn)業(yè)動向,卓翼飛思繪制無人系統(tǒng)教科研新藍圖

    8月21日,萬眾矚目的2024世界機器人大會暨博覽會在北京亦創(chuàng)國際會展中心盛大開幕。這場為期5天,集“展覽”“論壇”“賽事”于一體的機器人盛會,反映了當(dāng)下機器人領(lǐng)域的繁榮生態(tài)。據(jù)官方統(tǒng)計數(shù)據(jù),今年現(xiàn)場逛展觀眾高達25萬人次,比去年增加25%。機器人行業(yè)有多火?看看2024世界機器人大會火爆程度便可知

  • 卓翼智能:超大載重高烈度環(huán)境特種智能系留無人平臺的應(yīng)用與未來

    瞄準(zhǔn)場景需求,打造國內(nèi)領(lǐng)先的自主可控、高質(zhì)量超大載重高烈度環(huán)境特種智能系留無人平臺。卓翼智能亮相HICOOL峰會以科技實力榮摘創(chuàng)業(yè)大賽一等獎這個比賽5年培育出16家“獨角獸”HICOOL2024全球創(chuàng)業(yè)者峰會暨創(chuàng)業(yè)大賽已于8月25日在北京圓滿落下帷幕,大賽共吸引了124個國家和地區(qū)的7406個創(chuàng)業(yè)項

  • 60萬獎金召喚AI創(chuàng)新者,2024無錫國際人工智能創(chuàng)新應(yīng)用大賽火熱進行中!

    人工智能是新一輪科技革命和產(chǎn)業(yè)變革的重要驅(qū)動力量。無錫市作為中國的科技創(chuàng)新中心之一,正通過構(gòu)建人工智能"算力+算法+數(shù)據(jù)"三要素齊備的產(chǎn)業(yè)生態(tài),為產(chǎn)業(yè)技術(shù)創(chuàng)新應(yīng)用提供強大支撐,通過“AI+”行動推動人工智能與多個產(chǎn)業(yè)交叉融合,實現(xiàn)技術(shù)落地和產(chǎn)業(yè)化,加速形成新質(zhì)生產(chǎn)力,打造具有國際競爭力的產(chǎn)業(yè)創(chuàng)新智造

  • “云+AI”驅(qū)動操作系統(tǒng)創(chuàng)新升級,龍蜥堅持可持續(xù)發(fā)展路線

    近日,2024龍蜥操作系統(tǒng)大會(OpenAnolisConference)在北京圓滿召開,此次大會由中國計算機學(xué)會開源發(fā)展委員會、中關(guān)村科學(xué)城委員會、海淀區(qū)委網(wǎng)信辦、中國開源軟件推進聯(lián)盟指導(dǎo),龍蜥社區(qū)主辦,阿里云、浪潮信息、Intel、中興通訊、Arm、中科方德等24家理事單位共同承辦,主題為“進化