新周期，誰在堅守窄門？
來源：錦緞今日的投資者恐怕已經忘記了，在OpenAI創造出ChatGPT這一殺器的前夜，生成式AI也曾經是一道窄門，窄到連馬斯克都差點失去了信心。在當時的輿論眼中，AGI的道路不夠性感，不夠
9 月 13 日消息，據《財富》雜志 11 日報道，OpenAI CEO 奧爾特曼在接受采訪時面帶苦笑地表示：“自從 ChatGPT 上線后，我就沒睡過一個安穩覺。”
在這場長達半小時的對談中，奧爾特曼談到肩負監管一項“每天有數億人使用的技術”的重擔。他說，自己擔憂的并非“終結者”式的災難場景，而是團隊每天做出的那些幾乎察覺不到的細微選擇：什么時候拒絕回答、如何組織答案、什么時候反駁、什么時候放行。
奧爾特曼解釋說，這些看似細小的設計被全球用戶重復數十億次，以他自己的力量無法完全跟蹤的方式改變人們的思維和行為。“讓我夜不能寐的是，我們做出的每一個微小決定，可能影響數億人。這種影響太大了。”
他特別提到自殺問題：全球每周約 15000 人自殺，如果其中 10% 是 ChatGPT 用戶，那可能有 1500 人在與系統對話后仍然自殺。“我們可能沒能救下他們，也許我們本可以回應得更好，更主動一些。”
不久前，OpenAI 被一對父母起訴，指控 ChatGPT 誘導他們 16 歲的兒子亞當?雷恩自殺。奧爾特曼表示，這是“一場悲劇”，并透露平臺正在研究方案：若未成年人談及自殺又無法聯系家長，系統會報警。他補充，這并非最終決定，還需權衡用戶隱私。
奧爾特曼說，成年人應當被“當作成年人”，享有探索自由，但也必須劃定紅線。“讓 ChatGPT 幫助制造生物武器不符合社會利益。”他承認，最難的判斷是那些模糊地帶的問題。
對于道德標準，奧爾特曼表示，模型基礎反映了“人類集體的善與惡”，隨后 OpenAI 會疊加“模型規范”，參考哲學家和倫理學家的意見，但最終由他和董事會拍板。“應該追責的人是我。”
他還表示，比起 AI 對就業或地緣政治的沖擊，更讓他不安的是文化層面的細微變化：數百萬人每天與同一系統互動，連 ChatGPT 的語氣、甚至過度使用破折號的習慣，都已經滲入人類寫作風格。“如果這些小細節都能引發連鎖反應，接下來還會發生什么？”
從報道中獲悉，奧爾特曼表示：“我腦海里必須同時存在兩種想法。一方面，這一切只是大計算機飛快地把大矩陣里的數字相乘，再輸出相關詞語；另一方面，用戶的主觀體驗遠不止一臺高級計算器，它給我的驚喜程度超出了數學現實所能解釋的范圍。”
本文鏈接：http://m.www897cc.com/showinfo-45-27581-0.htmlOpenAI 奧爾特曼稱 AI 給自己帶來重壓：ChatGPT 上線后就沒睡過一個好覺
聲明：本網頁內容旨在傳播知識，若有侵權等問題請及時與本網聯系，我們將在第一時間刪除處理。郵件：2376512515@qq.com
Copyright ? 2016-2023 天津谷騏科技有限公司 版權所有 sitemap.xml
違法及侵權請聯系：2376512515@qq.com 津ICP備18001702號
津公網安備 12010102000574號