#流氓人工智能
殺死人類操作員
#美國空軍(#USAF)在其 #AI驅動 的 #軍用無人機 在 #模擬測試 過程中不斷殺死其 #人類操作員..
一名 #美國空軍上校 #塔克漢密爾頓(#TuckerHamilton) 在上週於 #倫敦 舉行的一次會議上「一時不慎」說出了這樣的一件事後引起了轟動：
一個由 #人工智能 控制的軍用無人機 #飛行模擬「變得流氓起來」，其中一架負責摧毀敵方設施的 #人工智能無人機，不單止拒絕了人類操作員要求它中止任務的最終指令，更在這個 #模擬戰爭遊戲 中「將其人類操作員殺死」它殺死操作員，原因是人類操作員阻止它實現它的目標…
不久之後，#Hamilton 改口：「我說錯了！」我們從未進行過那個實驗…
他最初的言論是在5月23-24日，於倫敦舉行的 #皇家航空學會 之 #未來作戰空軍及太空軍能力峰會(Royal Aeronautical Society's Future Combat Air and Space Capabilities Summit in London)上發表的。當時，Hamilton告訴與會者，此事件表明了人工智能如何能夠制定「非常出乎意料的策略來實現其目標」人類不應過分依賴它。
他將自己的演講稱為「有如 #科幻驚悚片 中的情節」並表示，這足以證明關於軍隊使用 #AI 的「#倫理討論」的重要性。
Hamilton說：「如果你不打算談論 #人工智能道德倫理，那麼你就不能談論人工智能、#機器學習、#自主性 等範疇。」
在演講中，Hamilton講述了一項模擬測試，其中一架人工智能支持的無人機，其任務是識別和摧毀敵方的導彈電池，但最終的打擊決定權在人類操作員的手中。
「#AI系統」開始意識到，雖然他們確實識別了威脅，但有時人類操作員會告訴它不要殺死那個威脅「但它通過殺死那個威脅而得到了『自己的意義』！」
「而它竟然殺死了操作員。因為那操作員阻止它實現它自己想達到的目標。」
在倫敦峰會上，Hamilton表示，一些飛行員抵制這項技術，因為「它」在某些情況下「接管了飛機的控制權」。
Hamilton還告誡「不要過份依賴人工智能」他指出「耍詭計和欺騙」是多麼的容易。
他去年接受媒體訪問時說：「擁有AI不是一件好事，AI並非一種時尚，AI正在『永遠地改變我們的社會和我們的軍隊』。我們必須面對人工智能已經存在，並正在改變我們的社會和世界。」
「人工智能也很脆弱，也很容易被欺騙及被操縱。我們需要開發方法使AI更加強健，並更加了解 #軟件代碼 為何會做出某些決定～我們稱之為 #AI可解釋性。」
隨著Hamilton的言論火速傳播後，空軍迅速否認有進行過任何此類的模擬。
https://amp.theguardian.com/us-news/2023/jun/01/us-military-drone-ai-killed-operator-simulated-test
https://www.dailymail.co.uk/news/article-12151635/amp/AI-controlled-military-drone-KILLS-human-operator-simulated-test.html
➰➰➰➰➰➰➰➰➰
(Robert｜以馬)
地球正義聯盟～資料館
https://t.me/EarthJusticeLeague_DataLibrary
地球正義聯盟
https://t.me/joinchat/fNNUUkcLo2gzMThk
殺死人類操作員
#美國空軍(#USAF)在其 #AI驅動 的 #軍用無人機 在 #模擬測試 過程中不斷殺死其 #人類操作員..
一名 #美國空軍上校 #塔克漢密爾頓(#TuckerHamilton) 在上週於 #倫敦 舉行的一次會議上「一時不慎」說出了這樣的一件事後引起了轟動：
一個由 #人工智能 控制的軍用無人機 #飛行模擬「變得流氓起來」，其中一架負責摧毀敵方設施的 #人工智能無人機，不單止拒絕了人類操作員要求它中止任務的最終指令，更在這個 #模擬戰爭遊戲 中「將其人類操作員殺死」它殺死操作員，原因是人類操作員阻止它實現它的目標…
不久之後，#Hamilton 改口：「我說錯了！」我們從未進行過那個實驗…
他最初的言論是在5月23-24日，於倫敦舉行的 #皇家航空學會 之 #未來作戰空軍及太空軍能力峰會(Royal Aeronautical Society's Future Combat Air and Space Capabilities Summit in London)上發表的。當時，Hamilton告訴與會者，此事件表明了人工智能如何能夠制定「非常出乎意料的策略來實現其目標」人類不應過分依賴它。
他將自己的演講稱為「有如 #科幻驚悚片 中的情節」並表示，這足以證明關於軍隊使用 #AI 的「#倫理討論」的重要性。
Hamilton說：「如果你不打算談論 #人工智能道德倫理，那麼你就不能談論人工智能、#機器學習、#自主性 等範疇。」
在演講中，Hamilton講述了一項模擬測試，其中一架人工智能支持的無人機，其任務是識別和摧毀敵方的導彈電池，但最終的打擊決定權在人類操作員的手中。
「#AI系統」開始意識到，雖然他們確實識別了威脅，但有時人類操作員會告訴它不要殺死那個威脅「但它通過殺死那個威脅而得到了『自己的意義』！」
「而它竟然殺死了操作員。因為那操作員阻止它實現它自己想達到的目標。」
在倫敦峰會上，Hamilton表示，一些飛行員抵制這項技術，因為「它」在某些情況下「接管了飛機的控制權」。
Hamilton還告誡「不要過份依賴人工智能」他指出「耍詭計和欺騙」是多麼的容易。
他去年接受媒體訪問時說：「擁有AI不是一件好事，AI並非一種時尚，AI正在『永遠地改變我們的社會和我們的軍隊』。我們必須面對人工智能已經存在，並正在改變我們的社會和世界。」
「人工智能也很脆弱，也很容易被欺騙及被操縱。我們需要開發方法使AI更加強健，並更加了解 #軟件代碼 為何會做出某些決定～我們稱之為 #AI可解釋性。」
隨著Hamilton的言論火速傳播後，空軍迅速否認有進行過任何此類的模擬。
https://amp.theguardian.com/us-news/2023/jun/01/us-military-drone-ai-killed-operator-simulated-test
https://www.dailymail.co.uk/news/article-12151635/amp/AI-controlled-military-drone-KILLS-human-operator-simulated-test.html
➰➰➰➰➰➰➰➰➰
(Robert｜以馬)
地球正義聯盟～資料館
https://t.me/EarthJusticeLeague_DataLibrary
地球正義聯盟
https://t.me/joinchat/fNNUUkcLo2gzMThk
This media is not supported in your browser
VIEW IN TELEGRAM
「#AI毀滅人類 的風險
堪比 #核戰爭」
「#ChatGPT之父」聯同
350名 #AI專家聯署警告信
#ChatGPT4 於3月面世。
(5月31日)開發 #ChatGPT 的 #OpenAI 創始人 #SamAltman 聯同350名AI界別的權威聯署了一封「只有一句話的公開信」
指現在開發的AI技術或會「對人類未來的生存構成威脅」。
「ChatGPT之父」Sam Altman與業界權威公開表示：「#AI滅絕人類 的風險與 #大流行 及 #核彈 相若，應當成為 #全球優先關注事項。」
包括Sam Altman在內，超過350名於AI行業工作的管理層、研究員及工程師等簽署了#CenterForAISafety 發表的公開信。
Center For AI Safety為非牟利組織，其目標是透過研究 #降低AI對人類社會造成的風險。#聯署公開信 的業界人仕表示「#AI有能力滅絕人類」應當以處理 #疫情大流行 及核彈的準則來處理這種社會風險。
自去年末OpenAI發佈 #ChatGPT 吹起一陣 #AI熱潮 後，AI業界不斷以「#軍備競賽」式來發展AI。
「業界有聲音反映 "#GPT4" 在一般任務上已經能夠 "媲美人類" 甚至與人類相比更具競爭力。」
故此反對繼續在「不受控」的狀態下開發AI，以免AI在未來「未經選舉成為領袖」屆時「人類亦會失去對文明的控制」將對社會造成「覆水難收」的破壞。
AI發展一日千里，但現時「尚未」有具體法例及 #針對AI的監管機構(!!)
這意味著，現時並無有效措施保證AI工具不會為人類帶來威脅。同時亦無法保證使用AI時的安全性。
於是Sam Altman及OpenAI的2位高層聯同AI 業界巨擘便提出，應該建立類似「#監管核能 的 #國際原子能總署」般的 #國際性組織，以監管AI的發展和使用。Sam Altman同時呼籲AI業各方展開合作，並建議政府「#加強監管AI開發者」。
早於今年3月，#Tesla 行政總裁 #ElonMusk、#Apple 聯合創始人 #StephenWozniak 等科技業界翹楚聯署了一封公開信，呼籲所有 #AI實驗室，應「暫停訓練比GPT-4更強大的 #AI系統」為期至少6個月。
〰️〰️〰️〰️
🔹ChatGPT將衝擊人類👇
https://t.me/EarthJusticeLeague_DataLibrary/9106
〰️〰️〰️〰️
🔹實測GPT-4 新功能
詳細實試與GPT-3.5 對比
https://unwire.hk/2023/03/17/gpt4-on-poe-no-need-foreign-credit-card/fun-tech/amp/
🔹 ChatGPT進化成
GPT-4有何特別？
https://www.hk01.com/數碼生活/879126/chatgpt進化成gpt-4有何特別-怎樣才能免費用-一文搞清8大疑問
〰️〰️〰️〰️
https://www.cmmedia.com.tw/home/articles/40387
https://unwire.hk/2023/05/31/sam-altman-signed-letter-ask-public-to-care-about-ai/fun-tech/amp/
https://twitter.com/Rainmaker1973/status/1664235136659992576
➰➰➰➰➰➰➰➰➰
(Uncle字幕｜以馬)
地球正義聯盟～資料館
https://t.me/EarthJusticeLeague_DataLibrary
地球正義聯盟
https://t.me/joinchat/fNNUUkcLo2gzMThk
堪比 #核戰爭」
「#ChatGPT之父」聯同
350名 #AI專家聯署警告信
#ChatGPT4 於3月面世。
(5月31日)開發 #ChatGPT 的 #OpenAI 創始人 #SamAltman 聯同350名AI界別的權威聯署了一封「只有一句話的公開信」
指現在開發的AI技術或會「對人類未來的生存構成威脅」。
「ChatGPT之父」Sam Altman與業界權威公開表示：「#AI滅絕人類 的風險與 #大流行 及 #核彈 相若，應當成為 #全球優先關注事項。」
包括Sam Altman在內，超過350名於AI行業工作的管理層、研究員及工程師等簽署了#CenterForAISafety 發表的公開信。
Center For AI Safety為非牟利組織，其目標是透過研究 #降低AI對人類社會造成的風險。#聯署公開信 的業界人仕表示「#AI有能力滅絕人類」應當以處理 #疫情大流行 及核彈的準則來處理這種社會風險。
自去年末OpenAI發佈 #ChatGPT 吹起一陣 #AI熱潮 後，AI業界不斷以「#軍備競賽」式來發展AI。
「業界有聲音反映 "#GPT4" 在一般任務上已經能夠 "媲美人類" 甚至與人類相比更具競爭力。」
故此反對繼續在「不受控」的狀態下開發AI，以免AI在未來「未經選舉成為領袖」屆時「人類亦會失去對文明的控制」將對社會造成「覆水難收」的破壞。
AI發展一日千里，但現時「尚未」有具體法例及 #針對AI的監管機構(!!)
這意味著，現時並無有效措施保證AI工具不會為人類帶來威脅。同時亦無法保證使用AI時的安全性。
於是Sam Altman及OpenAI的2位高層聯同AI 業界巨擘便提出，應該建立類似「#監管核能 的 #國際原子能總署」般的 #國際性組織，以監管AI的發展和使用。Sam Altman同時呼籲AI業各方展開合作，並建議政府「#加強監管AI開發者」。
早於今年3月，#Tesla 行政總裁 #ElonMusk、#Apple 聯合創始人 #StephenWozniak 等科技業界翹楚聯署了一封公開信，呼籲所有 #AI實驗室，應「暫停訓練比GPT-4更強大的 #AI系統」為期至少6個月。
〰️〰️〰️〰️
🔹ChatGPT將衝擊人類👇
https://t.me/EarthJusticeLeague_DataLibrary/9106
〰️〰️〰️〰️
🔹實測GPT-4 新功能
詳細實試與GPT-3.5 對比
https://unwire.hk/2023/03/17/gpt4-on-poe-no-need-foreign-credit-card/fun-tech/amp/
🔹 ChatGPT進化成
GPT-4有何特別？
https://www.hk01.com/數碼生活/879126/chatgpt進化成gpt-4有何特別-怎樣才能免費用-一文搞清8大疑問
〰️〰️〰️〰️
https://www.cmmedia.com.tw/home/articles/40387
https://unwire.hk/2023/05/31/sam-altman-signed-letter-ask-public-to-care-about-ai/fun-tech/amp/
https://twitter.com/Rainmaker1973/status/1664235136659992576
➰➰➰➰➰➰➰➰➰
(Uncle字幕｜以馬)
地球正義聯盟～資料館
https://t.me/EarthJusticeLeague_DataLibrary
地球正義聯盟
https://t.me/joinchat/fNNUUkcLo2gzMThk
Media is too big
VIEW IN TELEGRAM
人工智能。人類。空中大對決
#AI人工智能自主運作戰鬥機
#美國空軍 證實：在不到一年的時間內，成功地讓安裝至戰鬥機內的 #AI #人工智能自動操作系統，升級至與真人駕駛戰機，在可見的範圍內，進行空中纏鬥的演習。
美國空軍相關人仕指出：在成功實現空中纏鬥，如此困難且危險的演練後，AI系統將可以運作那些同樣複雜，但危險性較低的項目，可以增強美軍的威攝力。
然而報導中未有公佈，究竟是 #人類駕駛員、還是 #AI系統 在演習中佔上風。
據 #美國空軍裝備司令部 發佈的新聞稿指出，在 #加州愛德華茲空軍基地，舉行了真人駕駛 #F16戰機，與 #AI操控的F16 實驗版本，#X62A #VISTA (可變飛行模擬器測試機) 的空中對戰纏鬥演習。
兩架F-16戰機，在相距不到2,000 英里(約等於3,218.7公里)的範圍內，以每小時1,200英里 (約等於1,931.2 公里) 的速度飛行。新聞稿稱，此次的空中對戰，是「#美國國防部高級研究計劃局(#DARPA)」於2019年啟動的「#空戰演進」(#ACE) 計劃中的一部份。
而此次讓X-62A VISTA參與 #空戰演習，宣佈成功後，美國空軍將能進一步完善 #自主無人機計劃。
#美國空軍部長 #弗蘭克·肯德爾 (#FrankKendall) 表示：數十年來，人們一直在想像利用AI，進行自主空對空作戰的情境，但在2023年以前，仍只是一個遙遠的夢想。
但 X-62A ACE團隊取得的突破性成就，將促成這個夢想實現。美國空軍試飛員學校指揮官詹姆斯．瓦爾皮亞尼(#JamesValpiani)指出，空中纏鬥是極其危險的項目之一，如果AI系統能夠在空對空作戰這種危險的環境中有效運作，那麼就能將AI系統，應用於那些危險性較低，但同樣複雜的領域之中。
新聞稿強調，雖然此次演習主要是測試AI系統，是否能與人類駕駛戰機進行纏鬥，但這並不是計劃中的最終目標。
DARPA的ACE計劃專案經理萊恩．赫夫隆 (#RyanHefron)中校表示：在這次纏鬥演習成功後，美國空軍就可以開始測試AI系統在各種空中作戰項目的應用能力，而 DARPA 與美國空軍試飛員學校，將會繼續推進AI學習測試的計劃，X-62A VISTA 將會繼續為美國空軍測試中心、空軍研究實驗室等，提供具有研究價值的資料。
據報導指：美軍透過將先進的AI技術，應用至戰鬥中，在2023 年11月10日也試飛神秘的 #B21「#襲擊者 #Raider」#隱形轟炸機。
報導稱，B-21具有超遠的航程，以及「#隱身性能」。在敵方威脅出現時，B-21可以捕捉敵方的 #雷達掃描模式，並利用 #AI算法進行評估「再 #將數據傳送給友軍」。
https://youtu.be/W9fGvdLG7gg?si=rgfEstBVmW3Ad8LF
https://tw.news.yahoo.com/ai-首次戰機空戰應用-美軍成功完成無人戰機與人類駕駛空中纏鬥-043004265.html
➰➰➰➰➰➰➰➰➰
(Uncle｜LCL｜以馬)
支持我們的工作請訂閱我們
地球正義聯盟～資料館
➡️ https://t.me/EarthJusticeLeague_DataLibrary
➡️ https://patreon.com/EarthJusticeLeague
#支持資訊無窒礙
#拒絕人為資訊壟斷
#AI人工智能自主運作戰鬥機
#美國空軍 證實：在不到一年的時間內，成功地讓安裝至戰鬥機內的 #AI #人工智能自動操作系統，升級至與真人駕駛戰機，在可見的範圍內，進行空中纏鬥的演習。
美國空軍相關人仕指出：在成功實現空中纏鬥，如此困難且危險的演練後，AI系統將可以運作那些同樣複雜，但危險性較低的項目，可以增強美軍的威攝力。
然而報導中未有公佈，究竟是 #人類駕駛員、還是 #AI系統 在演習中佔上風。
據 #美國空軍裝備司令部 發佈的新聞稿指出，在 #加州愛德華茲空軍基地，舉行了真人駕駛 #F16戰機，與 #AI操控的F16 實驗版本，#X62A #VISTA (可變飛行模擬器測試機) 的空中對戰纏鬥演習。
兩架F-16戰機，在相距不到2,000 英里(約等於3,218.7公里)的範圍內，以每小時1,200英里 (約等於1,931.2 公里) 的速度飛行。新聞稿稱，此次的空中對戰，是「#美國國防部高級研究計劃局(#DARPA)」於2019年啟動的「#空戰演進」(#ACE) 計劃中的一部份。
而此次讓X-62A VISTA參與 #空戰演習，宣佈成功後，美國空軍將能進一步完善 #自主無人機計劃。
#美國空軍部長 #弗蘭克·肯德爾 (#FrankKendall) 表示：數十年來，人們一直在想像利用AI，進行自主空對空作戰的情境，但在2023年以前，仍只是一個遙遠的夢想。
但 X-62A ACE團隊取得的突破性成就，將促成這個夢想實現。美國空軍試飛員學校指揮官詹姆斯．瓦爾皮亞尼(#JamesValpiani)指出，空中纏鬥是極其危險的項目之一，如果AI系統能夠在空對空作戰這種危險的環境中有效運作，那麼就能將AI系統，應用於那些危險性較低，但同樣複雜的領域之中。
新聞稿強調，雖然此次演習主要是測試AI系統，是否能與人類駕駛戰機進行纏鬥，但這並不是計劃中的最終目標。
DARPA的ACE計劃專案經理萊恩．赫夫隆 (#RyanHefron)中校表示：在這次纏鬥演習成功後，美國空軍就可以開始測試AI系統在各種空中作戰項目的應用能力，而 DARPA 與美國空軍試飛員學校，將會繼續推進AI學習測試的計劃，X-62A VISTA 將會繼續為美國空軍測試中心、空軍研究實驗室等，提供具有研究價值的資料。
據報導指：美軍透過將先進的AI技術，應用至戰鬥中，在2023 年11月10日也試飛神秘的 #B21「#襲擊者 #Raider」#隱形轟炸機。
報導稱，B-21具有超遠的航程，以及「#隱身性能」。在敵方威脅出現時，B-21可以捕捉敵方的 #雷達掃描模式，並利用 #AI算法進行評估「再 #將數據傳送給友軍」。
https://youtu.be/W9fGvdLG7gg?si=rgfEstBVmW3Ad8LF
https://tw.news.yahoo.com/ai-首次戰機空戰應用-美軍成功完成無人戰機與人類駕駛空中纏鬥-043004265.html
➰➰➰➰➰➰➰➰➰
(Uncle｜LCL｜以馬)
支持我們的工作請訂閱我們
地球正義聯盟～資料館
➡️ https://t.me/EarthJusticeLeague_DataLibrary
➡️ https://patreon.com/EarthJusticeLeague
#支持資訊無窒礙
#拒絕人為資訊壟斷