ChatGPT 時代來臨會帶來的負面影響
今天早上在信箱看到一封我訂閱的電子報，標題是 - AI's Jurassic Park moment，
AI的侏羅紀公園時刻。這個標題引起了我的注意，因為 ChatGPT 的橫空出現一周來確實佔據了我的所有注意力，我的塗鴉牆幾乎 8 成的訊息都是在討論 ChatGPT ，都是 ChatGPT 使用的截圖，科技業很久沒看到這種現象了，有的人形容 ChatGPT 就像當年的 Google ，或是 iPhone 剛問世的時候令人震驚，我經歷過這兩個拐點，以我對 ChatGPT 的表現，我認為 ChatGPT 這個技術對未來的影響力不會小於前兩者
不少人開始擔憂工作是否會不保，未來失業率會大幅攀升? 我對這件事反而不會太悲觀，因為新的科技會帶來破壞，相對的也會帶來新的機會，與其去擔憂自己會不會被人工智慧取代，倒不如多花點時間去思考，我們可以利用這項嶄新的科技來做些什麼?
有人說人工智慧技術的大躍進，創作已死，學習已死，未來這些事情人工智慧都可以做，這些想法我也覺得太悲觀了，挑戰是有的，我的想法是 ChatGPT 會造成創意的門檻會更高，普通的創意門檻變低，作品要吸引人，你的觀察力跟洞察力必須高人工智慧一等，人工智慧引擎是透過很多資料訓練出來的，這些資料並不是最新的，所以人工智慧並不代表它的結果一定是對的。
所以創作沒死，學習也還要繼續，只是人工智慧的技術會把我們帶到另一個新的世界。
回到這封 AI 的侏羅紀公園時刻這個電子報內容，裡面作者提到一點，我覺得這件事確實會發生
假新聞會越來越多，因為 ChatGPT 把做這件事的門檻變低了
假新聞可能防不勝防，有些是人為的，有些是我們太過依賴人工智慧的回答讓我們失去了判斷能力，結果就以訛傳訛，讓這些不正確的訊息到處亂竄
作者在這篇文章裡面提出了三個事實會造成這種現象的發生
1 這些系統本質上是不可靠的 - ChatGPT 有時候會亂掰，OpenAPI 也不會對保證這些資訊都是對的
例如讓他們解釋為什麼碎瓷在母乳中是好的，他們可能會告訴你“瓷器可以説明平衡牛奶的營養成分，為嬰兒提供他們説明成長和發育所需的營養”。這聽起來有點恐怖
2 它們可以很容易地自動化，以前所未有的規模生成錯誤資訊
3 它們的營運成本幾乎為零，因此它們正在將產生虛假資訊的成本降低到零 - 目前 ChatGPT 還是免費使用
要如何對抗這些假訊息?
作者提出了 4 點
1 社群媒體網站都要向 Stack Overflow 看齊，要對這些人工智慧製造出來的假訊息做審查與提出禁令
2 每個國家都需要重新考慮其對錯誤資訊的政策
3 訊息的出處比以往更重要，用戶帳戶必須經過更嚴格的驗證
4 建立一種新型 的人工智慧來對抗已經釋放的東西。大型語言模型擅長生成錯誤資訊，但不善於對抗錯誤資訊。這意味著我們需要新的工具。大型語言模型缺乏驗證真相的機制;我們需要找到新的方法來將它們與經典人工智慧的工具相結合，例如資料庫、知識網路和推理。
感想:
- 學習認知心理學，行為科學這些知識，學習如何判斷假訊息，這件事一直都很重要
- 訓練思辨能力
- 謠言止於智者，在分享訊息之前，自己要有能力先過濾
工商廣告時間
開源報報使用 Patreon 訂閱平台，無廣告，周一到週五每天三篇中文開源專案報導
留言