發表文章

目前顯示的是 3月, 2023的文章

使用 AI 專門幫公司內部的流程做最佳化,這個團隊的角色會越來越重要

圖片
最近的 AI 發展速度引起不少人的焦慮,我自己的心情多多少少也有受到影響 昨天在跑步的時候,想起了 6 年前辦了很多場的 The Effective Engineer 這本書的線上讀書會,這本書講的內容,我覺得 AI 時代還是適用。 聽說當年我辦這本書的讀書會,天瓏書局也進了不少這本書的紙本書進來台灣賣,這本書有 epub 電子書,可以拿 最近很熱門那個翻譯工具 把這本書翻成中文來看,我相信看了之後你就會知道為什麼我說這本書在 AI 時代,裡面講的原則還是適用 如果你有興趣,可以先看在 Soft & Share 網站翻譯過 The Effective Engineer 作者寫的一系列文章 。我還是建議你買這本書來看,會比較了解作者全面性的想法。 專門幫公司內部的流程做最佳化的 AI 團隊會越來越重要 我根據這本書的內容來預測未來的公司內部都會有一個 AI 自動化團隊 ,專門幫公司內部的流程做最佳化,這個團隊的角色會越來越重要 公司不僅僅限於高科技公司,任何公司都會需要, 所以軟體開發者要好好思考這一塊職涯發展的可能性 這是我前年寫下 為何要辦開源報報的初衷 ,現在看起來這個趨勢會越來越明顯, 軟體工程師善用各種開源工具,整合 AI 服務,為企業內部流程做最佳化,這個角色跟以前的 MIS 不太一樣,而且會越來越重要 有人說軟體工程師未來也會被 AI 取代,真的不要太悲觀,只要保持開放的心態,很多企業內部都會需要軟體工程師來對內部流程做客製化 所以 如果你對最近的 AI 發展太快感到焦慮,最好的方式就是好好地按部就班學習如何在這個基礎上打造一些客製化的工具 ,這些工具未來會成為你要去進入這個 AI 自動化團隊的作品集 大約 5 年前我就有聽到 RPA 這個流程自動化工具,但是 RPA 被一些大型的商業軟體公司給綁住,要在那個基礎上做客製化,還要先去學某家的 RPA 軟體,但是 OpenAI 進入門檻真的很低,你只要會呼叫 API ,會任何一種你熟悉的程式語言就可以開始做了,我已經在國外網站看到不少工程師在做這些事情,也許那些工具沒有市場價值,但是放到公司內部做客制化就很有價值了 對了 AI 整合不一定只有 OpenAI 這家公司,HuggineFace or Replicate 這樣的網站, 上面還有很多人工智慧模型可以拿來整合,所以會呼

從可汗學院與 GPT-4 整合的服務,看見未來線上學習的樣貌

圖片
這部影片的摘要 Khan Academy宣布推出人工智慧助手conmigo,透過AI幫助學生學習。此助手不僅能夠幫助學生完成題目,更能夠像一位良師益友一樣指導學生解題思路,提高學習成效。同時,Khan Academy也強調他們會在AI使用上採取保障措施,保護學生免於不當使用。此外,Khan Academy還計畫讓AI協助老師編寫教案,提高教學效率。 感想 我一直以為可汗學院只是一個線上數學教學的平台,但是看了這段可汗學院創辦人介紹了與 GPT-4 整合的線上導師機器人,我發現原來可汗的教學範圍還不只有數學,包括學校的作文,辯論都涵蓋了 這個線上教育平台對於教育資源貧乏的地區真的是一大福音,還有我從這個介紹影片開始思考一個問題,如果 AI 可以幫忙規劃學習內容,產生學習教材,還可以讓你問問題,那老師未來要扮演什麼樣的角色? 關於我 Soft & Share 網站站長 開源報報主編 learningnotes.plus 創辦人 使用 E-Mail 追蹤這個部落格

免費的最貴?

圖片
今天在一個 ChatGPT 社團看到有人分享這個開源軟體,我也很感興趣就點進去看了一下,結果發現開發者在他的專案說明中看到了一句,這個開源專案 fork 版本有被人植入惡意程式碼,並提醒使用者注意不要下載到不明的安裝來源 MacOS 與 Windows 都會要求軟體開發商申請憑證,然後作業系統安裝軟體的時候作業系統如果發現這個軟體沒有憑證就會警告使用者 但是我們都知道一句話「免費的最貴」 基本上這句話大多數人都聽過,但是我觀察的結果是大部分的人做出來的行為基本上都是相反的,大家還是比較喜歡免費的軟體,包括我在內。 有些開源軟體有提供 MD5 ,SHA256 等代碼,讓下載安裝的人知道,這個執行檔確實是由官方開發團隊發布的,但是使用者必須自己利用作業系統內部的工具來驗證這個代碼是否正確? 但是我是不太相信大多數使用者知道如何去驗證這些免費的開源執行檔的 SHA256 代碼 ,這件事大概只有有資安概念的 IT 從事人員會去做這件事 所以使用者自己安裝到了被植入木馬的免費軟體自己都不知道 不過如果你是開發者也不要太相信「免費的最貴」這句話 , 基本上使用者還是比較喜歡免費的東西 , 所以如果你想要透過軟體收費,還是要提供一點點「免費」的功能,最後使用者用到他真的發現自己需要付費買更多的功能 目前我看到的付費軟體大致上都是往這個方向在走 對了, 申請憑證也是一筆費用 ,所以很多免費軟體,或是開源軟體的執行檔沒有申請憑證,這也無可厚非,開發者願意提供免費服務已經很佛心了,我們也無法要求他們太多 基本上我還是建議如果這個軟體真的可以幫你省下時間,還是多多支持一下開發者 關於我 Soft & Share 網站站長 開源報報主編 learningnotes.plus 創辦人 使用 E-Mail 追蹤這個部落格

使用 ChatGPT 與一本書對話的服務的可能性

圖片
不少人以為 ChatGPT 可以整理出書摘,我在 1 月的時候也發現了這件事,剛開始也覺得很興奮,一直到我拿了一本我真正看過的書來測試 ChatGPT ,才發現那些書摘有一部分都是 ChatGPT 「幻想」出來的, 除非將整本書的內容以 Embedded 的方式餵給 ChatGPT ,然後就可以真的跟 ChatGPT 討論那本書的內容 但是如果你知道要把整本書利用 ChatGPT API 轉成 Embedded 是要花錢的,你還會想做這件事 ? 目前看到網路上相關應用程式都是跟 PDF 檔案聊天 ,卻沒有跟 epub 電子書檔案聊天 ( 也許未來會有 ) ,你有想過 why ? 我的看法是 PDF 的檔案內容跟 epub 小很多,做一個可以 Demo 的 MVP 相對成本低很多 epub 電子書的字數比 PDF 論文多很多倍,如果把這個做 embedded 的成本轉嫁給使用者,我想使用者大概也不會想用 還有一件很重要的事 - 當使用者對那本電子書內容不是很熟悉的狀況下,也搞不清楚要問甚麼問題 我過年用 GPT-3 費用比較高,也許用最近的 GPT-3.5 api 會比較便宜一點,但是我想到最後面那一件事 - 要對一本書沒有讀過的書問甚麼問題? 我就有點做不下去了 還有一種作法把 epub 丟給 Notion AI ,這件事我也做了,但是老實說用起來體驗實在很差 XD 如果有一家電子書網站提供一個服務-讓購買這本書的使用者加 10% 的書籍費用就可以跟這本書聊天,我倒是覺得會是一個可行的方案,因為 Embedded 存到向量資料庫後,可以讓有買這本書的使用者共用,也等於把 ChatGPT API 的使用者平均分攤掉了 順帶一提! 國外真的有這種網站,但是只限定一些書籍,使用者沒辦法上傳自己的書籍 關於我 Soft & Share 網站站長 開源報報主編 learningnotes.plus 創辦人 使用 E-Mail 追蹤這個部落格

ChatGPT 時代與 App 時代軟體產品上的差異

圖片
這次 OpenAI 帶起的人工智慧風潮,有人比喻是 iPhone moment 氛圍確實很像,但是軟體開發上的本質上還是有很大的差異 1 iPhone 出現讓人感到驚艷的是它在手機上的流暢人機介面,iPhone 發表後一年,Apple 應市場需求才推出 SDK ,SDK 呼叫不用花錢,但是開發者要把 App 部署到 iPhone 要每年付 Apple 一筆費用,我印象中一年的年費大約 NT6000 元,使用者買了 App 後,也只能拿 70% ,30% 要交給 Apple。 OpenAI 的 API 呼叫是按照使用的 Token 數量來算的,如果你沒有 IT 背景,就把 Token 想像成你輸入的字數,字數使用越多,花費要越多 2 OpenAI 一開始推的時候跟 iPhone 相反,OpenAI 是先推出 API ( 跟 SDK 類似的東西 ) ,沒有終端產品,所以目前檯面上很多 AI 公司都是早期 OpenAI 的 API 採用者,這些公司還因為開發出來的服務賺了不少錢,所以 ChatGPT 崛起的方式跟 iPhone 剛好相反,OpenAI 先有 API 再推出終端產品 ChatGPT ,Apple 是先有終端產品再推 API 3 早期的 OpenAI API 採用者現在面臨護城河的問題,因為有些功能直接用 ChatGPT 就可以了,iPhone 的 App 開發公司一直到後期才驚覺 Apple 也在模仿這些 App 開始把一些第三方 App 開發公司的 idea 納入 iOS ,兩者的軌跡也剛好是相反的 4 OpenAI 的 API 有送 3 個月 18 塊美金的 free quota ,要進入的門檻比當年 iPhone 一年要繳 NT6000 塊算是低很多,但是 OpenAI 沒有所謂的 App Store 來處理金流跟軟體部署的問題,這部分開發者要自己想辦法 從以上四點看起來,你可能會以為 iPhone 的開發成本比較高,如果我用商業的角度看, iPhone 的固定成本雖然高,但是變動成本相對比使用 OpenAI 的 API 成本低 ,因為商業要看長不看短, 變動成本就是你每獲取一位使用者所要增加的成本,一開始 OpenAI 看起來雖然成本很低,但是一旦使用者人數擴展後,利潤就會被變動成本給稀釋掉了 ,App 如果你不要使用雲端功能,當使用者

人工智慧資訊焦慮症候群?

圖片
最近看太多 ChatGPT 資訊是否會讓你感到焦慮? 我今天早上想到金城武在很久以前拍的一段廣告台詞 - 世界越快,心則慢 我當時對這句台詞其實不太能理解,但是經過這幾年的沉澱,我慢慢能理解為什麼世界越快,心則慢這句話背後的道理 一轉眼,ChatGPT 竟然出現 3 個月了,將近 100 天的時間,這 100 天我看到很多人在分享 ChatGPT 要如何用,但是真正利用 OpenAI 開發程式,做一些 side project 的人相對比較少, 畢竟動手做一個 side project 要耗費的時間,比要去看別人分享如何使用 ChatGPT 的時間要多很多倍 如何減少焦慮感? 與其被 ChatGPT 的資訊給淹沒,倒不如直搗黃龍,去學 ChatGPT 背後的 API 去年 ChatGPT 還沒出來的時候,我當時先買了一本 FastAI 的書搭配 Youtube 線上課程在看,結果ChatGPT 一出來,FastAI 的課還沒上完,全部的注意力轉向 OpenAI 的 ChatGPT 😅 不過學習這種事是有累積性的,今天在上 OpenAI 的線上課程 ,發現跟去年在上 FaseAI 的課程其實很類似, 差別在 FastAI 那門課要自己去下載別人訓練好的模型來使用 , 而 OpenAI 是用現成的 API 這兩堂課很相似的是講師都是使用 Jupyter 當作示範的開發環境,也都是用 Python 程式語言 ,所以上起來覺得有一種親切感 :-) 不管你懂哪種程式語言,我很推薦去玩玩看 OpenAI 的 API,官方的文件包含很多範例程式碼,很多你目前看到大家在分享的一些線上服務,OpenAI 的開發者網站都找的到相關範例,不過你跑出來的結果可能沒辦法像那些已經商業化的線上服務那麼棒,畢竟那是有 Fine tune 過的線上服務 與其受到被 ChatGPT 訊息轟炸感到焦慮感,倒不如好好把 OpenAI 上面的範例全部跑一次 ,OpenAI 還送你 US 18 塊美金的免費使用額度,從註冊那一天開始算,3 個月內要用完 我不能保證學完 OpenAI 會讓你飛天遁地,但是你看到別人分享的資訊,你可能會用另一種視野去看那些服務,例如,別人看到的反應是 Wow 好厲害! 但是你的反應可能會那些服務是怎麼做出來的? 下了什麼 prompt 跑出來的結

降低阻力養成寫筆記的習慣

圖片
早上去吃早餐的時候,隨手拿了一本在講 PDCA 的書 來看,翻到了這個章節,跟自己最近在實踐的寫筆記習慣一樣,所以就把這頁拍了下來 如果你是用 Notion 做筆記,要實踐 第三點「隨時將筆記打開放在桌上 」使用 LN+ for Web 就簡單了,畢竟目前很多工作都是在 Web 瀏覽器中來執行, LN+ for Web 可以在你的瀏覽網站的情境(context)下隨時打開 Notion 筆記,而且還會幫你做雙向關聯 例如我昨天看了一篇 Python poetry 套件管理的文章,那篇文章很長,都在講原理,可是真正會使用的指令大概不會超過10 個, 於是我就用 LN+ for web 的快捷鍵 ( Ctrl + Shift + 9 ) 寫了一個筆記記下那些每次起始 Python 專案的筆記 寫筆記有一個要訣 : 要用自己理解的話語來寫下來,這樣比較容易記住 。去年有一本書「 卡片盒筆記 」很熱門,這本書的作者也有提到一樣的寫筆記實踐 如果你只把筆記軟體當作是「儲存空間」,或是內容備份空間,基本上這已經失去寫筆記的意義 ,這樣的軟體很多,像是 Read it Later ,通常你把內容存到所謂的 Read it Later 軟體,要去找出來看的機率已經很低了,何況真的在大腦記憶中留下一點軌跡? 關於我 Soft & Share 網站站長 開源報報主編 learningnotes.plus 創辦人 使用 E-Mail 追蹤這個部落格

Flet - 老派程式設計師的應用程式設計開發框架

圖片
Flet 是我過年前就在 Study 的一個 Python GUI 應用程式框架,這個開發框架的特色就是前端使用 Flutter 的 layout 方式,後端使用 Python 程式語言,使用這個專案寫出來的應用程式可以以以下的方式來發布 作業系統支援的執行檔 - Flet 有提供工具讓你把整個專案的程式碼打包成 exe 檔 ( Windows ) 也支援 Mac & Linux 的執行檔格式 Web 應用程式 Mobile 應用程式 WASM 應用程式 - 把 Python 編譯成 WASM 後就可以把程式 Deploy 到靜態網頁的服務,例如 github page 我會喜歡這個開發框架除了它可以使用不同的平台來發布,最主要的原因之一是 HTML/CSS/Javascript 不是我的主要技能專長,使用這些技術去做一個前端是沒問題,但是會耗掉我不少時間在調整前端的 layout Flet 對我而言就簡單多了,寫起來很像以前在寫 Windows programming 的時代,或是 Java Swing ,或是 Mac 的 Objective C ,這些技術算起來都過時了,如果我要繼續開發軟體勢必要選擇新的開發框架與程式設計語言 最近 ChatGPT 很熱門,我要開發一個使用 GPT-3 的 side project 要使用什麼程式設計語言 ? 什麼 GUI 框架? 開發 AI 應用程式當然在程式設計語言上 Python 佔據了很大的優勢,有很多現成的套件可以使用,GUI 選擇就很多了,例如 Web 最熱門的就是 Django/Flask ,Flask 我去年有寫一個自己使用的 Web application ,但是卡在我前端不熟,開發上花了不少時間 Flex + Python 剛好成為我的首選,以我的技能樹背景學起來也很舒服 今天在看 Flex 的技術文件剛好看到這句話 在現代前端應用程序中管理應用程式狀態本質上是一項複雜的任務,而 Flet 的“老派”方法可能對沒有前端經驗的程式設計師更具吸引力。 把一些我不熟悉的東西先排除,然後專注在我想解決的問題上,這樣就可以減輕我啟動 side project 的阻力了 目前在上的 OpenAI 線上課程 OpenAI Python API 訓練營:學習使用 AI、GPT3 等!