#ai-learning
2024-06-01
facebook.com
在個人裝置上跑大小型語言模型 驅動當今AI服務的核心引擎是大型語言模型（LLM），但這類名詞就像大數據（Big Data）一樣，對於所謂的「大」，並沒有明確的定義，因此往往被錯誤或浮濫使用。 這篇就來談談語言模型的大小，以及在現在的個人裝置上能跑多大的語言模型。...
- 👍1
大概就是可以跑，但速度沒有很快
https://github.com/XiongjieDai/GPU-Benchmarks-on-LLM-Inference
https://github.com/XiongjieDai/GPU-Benchmarks-on-LLM-Inference
大概就是可以跑，但速度沒有很快
https://github.com/XiongjieDai/GPU-Benchmarks-on-LLM-Inference
https://github.com/XiongjieDai/GPU-Benchmarks-on-LLM-Inference
2024-06-02
大概就是可以跑，但速度沒有很快
https://github.com/XiongjieDai/GPU-Benchmarks-on-LLM-Inference
https://github.com/XiongjieDai/GPU-Benchmarks-on-LLM-Inference
6/2 LIVE19:00 黃仁勳主題演講全程直播
輝達執行長NVIDIA CEO Jensen Huang-AI人工智慧時代如何帶動全球新產業革命
[中文口譯]
https://www.youtube.com/live/lp2xDN1HcwM?si=-290vQn7KIxoCzvH
[原音ENG CC]
https://www.youtube.com/live/fWOpGOxJ7OI?si=cf2zxUJjV6NhligT
輝達執行長NVIDIA CEO Jensen Huang-AI人工智慧時代如何帶動全球新產業革命
[中文口譯]
https://www.youtube.com/live/lp2xDN1HcwM?si=-290vQn7KIxoCzvH
[原音ENG CC]
https://www.youtube.com/live/fWOpGOxJ7OI?si=cf2zxUJjV6NhligT
YouTube
另有英文原音版直播ENG Live:point_right:<https://youtube.com/live/NbCaQ9IWMbcNVIDIA> 執行長黃仁勳將於 6 月 2 日 19:00 於臺灣大學綜合體育館進行主題演講，分享人工智慧時代如何帶動全球新產業革命的發展。NVIDIA founder and CEO Jensen Hu...
[英文即時字幕請打開影片右下角CC功能] English live caption is available. 另有中文音譯版直播:point_right:<https://youtube.com/live/lp2xDN1HcwMNVIDIA> 執行長黃仁勳將於 6 月 2 日 19:00 於臺灣大學綜合體育館進行主題演講，分享人工智慧時...
對於夜市的部分印象深刻…
看起來可以每個夜市放一台 H100 伺服器 (誤
6/2 LIVE19:00 黃仁勳主題演講全程直播
輝達執行長NVIDIA CEO Jensen Huang-AI人工智慧時代如何帶動全球新產業革命
[中文口譯]
https://www.youtube.com/live/lp2xDN1HcwM?si=-290vQn7KIxoCzvH
[原音ENG CC]
https://www.youtube.com/live/fWOpGOxJ7OI?si=cf2zxUJjV6NhligT
輝達執行長NVIDIA CEO Jensen Huang-AI人工智慧時代如何帶動全球新產業革命
[中文口譯]
https://www.youtube.com/live/lp2xDN1HcwM?si=-290vQn7KIxoCzvH
[原音ENG CC]
https://www.youtube.com/live/fWOpGOxJ7OI?si=cf2zxUJjV6NhligT
對於夜市的部分印象深刻…
看起來可以每個夜市放一台 H100 伺服器 (誤
對於夜市的部分印象深刻…
看起來可以每個夜市放一台 H100 伺服器 (誤
2024-06-04
人工智慧對教育、民主和道德議題所帶來的挑戰
人工智慧對教育、民主和道德議題所帶來的挑戰
@newclicker has joined the channel
2024-06-07
6/24 週一下午 Kuwa GenAI OS工作坊 - 生成式AI服務系統建置與應用開發
https://www.facebook.com/share/p/TGGviny4ZKUvjH8N/
https://www.facebook.com/share/p/TGGviny4ZKUvjH8N/
6/24 週一下午 Kuwa GenAI OS工作坊 - 生成式AI服務系統建置與應用開發
https://www.facebook.com/share/p/TGGviny4ZKUvjH8N/
https://www.facebook.com/share/p/TGGviny4ZKUvjH8N/
2024-06-09
https://g0v.hackmd.io/UBBrFa_mQ_uGUm1V1R_YHg
試著用 whisperx 跑，指令 whisperx yfwXL_sJTlI.webm --language zh --diarize --max_speakers 2 ，看起來效果還不賴，只是每一段都太長，不適合塞回去影片當字幕，目前還不知道怎麼限制每一段的長度
試著用 whisperx 跑，指令 whisperx yfwXL_sJTlI.webm --language zh --diarize --max_speakers 2 ，看起來效果還不賴，只是每一段都太長，不適合塞回去影片當字幕，目前還不知道怎麼限制每一段的長度
嗯，細看還是有些錯誤
加一下 initial prompt
[]
[]
可以試試看「觀眾朋友，大家好。以下是范琪斐訪談黃國昌。」
whisperx 主要還是基於 whisper，應該還是會在某種程度 follow initial prompt 的 style。
上面的 prompt 只是一個例子，我是想要他有下面的性質
• 短
• 標點（我習慣放全形標點，但我有注意到他每次都用半形或空格⋯⋯）
• 繁體
whisperx 主要還是基於 whisper，應該還是會在某種程度 follow initial prompt 的 style。
上面的 prompt 只是一個例子，我是想要他有下面的性質
• 短
• 標點（我習慣放全形標點，但我有注意到他每次都用半形或空格⋯⋯）
• 繁體
還在想就有人做完了 XD
https://youtu.be/j7GCLLsJfFQ
https://youtu.be/j7GCLLsJfFQ
他還做了個介面去看差異，應該也是平常有在玩吧 XD
https://chiuhans111.github.io/kc-huang-on-fan-american-time-video-compare/
https://chiuhans111.github.io/kc-huang-on-fan-american-time-video-compare/
https://g0v.hackmd.io/UBBrFa_mQ_uGUm1V1R_YHg
試著用 whisperx 跑，指令 whisperx yfwXL_sJTlI.webm --language zh --diarize --max_speakers 2 ，看起來效果還不賴，只是每一段都太長，不適合塞回去影片當字幕，目前還不知道怎麼限制每一段的長度
試著用 whisperx 跑，指令 whisperx yfwXL_sJTlI.webm --language zh --diarize --max_speakers 2 ，看起來效果還不賴，只是每一段都太長，不適合塞回去影片當字幕，目前還不知道怎麼限制每一段的長度
嗯，細看還是有些錯誤
加一下 initial prompt
[]
[]
可以試試看「觀眾朋友，大家好。以下是范琪斐訪談黃國昌。」
whisperx 主要還是基於 whisper，應該還是會在某種程度 follow initial prompt 的 style。
上面的 prompt 只是一個例子，我是想要他有下面的性質
• 短
• 標點（我習慣放全形標點，但我有注意到他每次都用半形或空格⋯⋯）
• 繁體
whisperx 主要還是基於 whisper，應該還是會在某種程度 follow initial prompt 的 style。
上面的 prompt 只是一個例子，我是想要他有下面的性質
• 短
• 標點（我習慣放全形標點，但我有注意到他每次都用半形或空格⋯⋯）
• 繁體
還在想就有人做完了 XD
https://youtu.be/j7GCLLsJfFQ
https://youtu.be/j7GCLLsJfFQ
他還做了個介面去看差異，應該也是平常有在玩吧 XD
https://chiuhans111.github.io/kc-huang-on-fan-american-time-video-compare/
https://chiuhans111.github.io/kc-huang-on-fan-american-time-video-compare/
嗯，細看還是有些錯誤
2024-06-10
新的一篇
加一下 initial prompt
[]
[]
可以試試看「觀眾朋友，大家好。以下是范琪斐訪談黃國昌。」
whisperx 主要還是基於 whisper，應該還是會在某種程度 follow initial prompt 的 style。
上面的 prompt 只是一個例子，我是想要他有下面的性質
• 短
• 標點（我習慣放全形標點，但我有注意到他每次都用半形或空格⋯⋯）
• 繁體
whisperx 主要還是基於 whisper，應該還是會在某種程度 follow initial prompt 的 style。
上面的 prompt 只是一個例子，我是想要他有下面的性質
• 短
• 標點（我習慣放全形標點，但我有注意到他每次都用半形或空格⋯⋯）
• 繁體
還在想就有人做完了 XD
https://youtu.be/j7GCLLsJfFQ
https://youtu.be/j7GCLLsJfFQ
他還做了個介面去看差異，應該也是平常有在玩吧 XD
https://chiuhans111.github.io/kc-huang-on-fan-american-time-video-compare/
https://chiuhans111.github.io/kc-huang-on-fan-american-time-video-compare/
2024-06-11
那個 PDF 是上一屆的會議紀錄嗎
Summary 裡有時代力量
Summary 裡有時代力量
我傳的是 https://ppg.ly.gov.tw/ppg/sittings/2024041081/details?meetingDate=113%2F04%2F12&meetingTime&departmentCode=null
那個「公報紀錄」按下去就是一堆 PDF，但應該都是「第11屆第1會期第9次會議」無誤 XD
那個「公報紀錄」按下去就是一堆 PDF，但應該都是「第11屆第1會期第9次會議」無誤 XD
可能委員會比較 focused 所以 LLM 表現可以比較好
院會太雜了
院會太雜了
那個 PDF 是上一屆的會議紀錄嗎
Summary 裡有時代力量
Summary 裡有時代力量
我傳的是 https://ppg.ly.gov.tw/ppg/sittings/2024041081/details?meetingDate=113%2F04%2F12&meetingTime&departmentCode=null
那個「公報紀錄」按下去就是一堆 PDF，但應該都是「第11屆第1會期第9次會議」無誤 XD
那個「公報紀錄」按下去就是一堆 PDF，但應該都是「第11屆第1會期第9次會議」無誤 XD
可能委員會比較 focused 所以 LLM 表現可以比較好
院會太雜了
院會太雜了
那個 PDF 是上一屆的會議紀錄嗎
Summary 裡有時代力量
Summary 裡有時代力量
我傳的是 https://ppg.ly.gov.tw/ppg/sittings/2024041081/details?meetingDate=113%2F04%2F12&meetingTime&departmentCode=null
那個「公報紀錄」按下去就是一堆 PDF，但應該都是「第11屆第1會期第9次會議」無誤 XD
那個「公報紀錄」按下去就是一堆 PDF，但應該都是「第11屆第1會期第9次會議」無誤 XD
可能委員會比較 focused 所以 LLM 表現可以比較好
院會太雜了
院會太雜了
2024-06-12
看起來像是資料標記與應用的顧問服務
看起來像是資料標記與應用的顧問服務
看起來像是資料標記與應用的顧問服務
2024-06-13
記錄一下使用 whisperx 的參數與目前認知，歡迎修正
https://g0v.hackmd.io/@kiang/whisperX_notes
https://g0v.hackmd.io/@kiang/whisperX_notes
HackMD
# whisperX 操作記錄 [whisperX](<https://github.com/m-bain/whisperX>) 是基於 OpenAI whisper 模型產生的生態系去組合起來的工具，
有，只是沒有特別比較帶來的改變
記錄一下使用 whisperx 的參數與目前認知，歡迎修正
https://g0v.hackmd.io/@kiang/whisperX_notes
https://g0v.hackmd.io/@kiang/whisperX_notes
有，只是沒有特別比較帶來的改變
2024-06-14
有，只是沒有特別比較帶來的改變
TAIDE 花了2億多，其中超過 1 億是買 H100 XD
https://youtu.be/c-nWFyYP0QU
https://youtu.be/c-nWFyYP0QU
YouTube
TAIDE 花了2億多，其中超過 1 億是買 H100 XD
https://youtu.be/c-nWFyYP0QU
https://youtu.be/c-nWFyYP0QU
2024-06-21
監察院將於7/12 舉辦AI 與人權論壇，歡迎有興趣的大家報名參與：https://events.businesstoday.com.tw/2024/human_rights/index.html
監察院將於7/12 舉辦AI 與人權論壇，歡迎有興趣的大家報名參與：https://events.businesstoday.com.tw/2024/human_rights/index.html
2024-06-22
Nature
Nature - Hallucinations (confabulations) in large language model systems can be tackled by measuring uncertainty about the meanings of generated responses rather than the text itself to improve...
在 sts 年會聽到黃俊儒教授與羅尹悅教授的民眾對AI 態度與理解的研究報告，覺得很有趣
- 🙏3
• 治理面：民眾對於 AI 接受度高，但認為社會準備度不夠
• 認知面：對於自動學習有高度的正確認知
◦ 在技術問題與關於道德技術上，比較欠缺了解
• 認知面：對於自動學習有高度的正確認知
◦ 在技術問題與關於道德技術上，比較欠缺了解
在 sts 年會聽到黃俊儒教授與羅尹悅教授的民眾對AI 態度與理解的研究報告，覺得很有趣
• 治理面：民眾對於 AI 接受度高，但認為社會準備度不夠
• 認知面：對於自動學習有高度的正確認知
◦ 在技術問題與關於道德技術上，比較欠缺了解
• 認知面：對於自動學習有高度的正確認知
◦ 在技術問題與關於道德技術上，比較欠缺了解
• 治理面：民眾對於 AI 接受度高，但認為社會準備度不夠
• 認知面：對於自動學習有高度的正確認知
◦ 在技術問題與關於道德技術上，比較欠缺了解
• 認知面：對於自動學習有高度的正確認知
◦ 在技術問題與關於道德技術上，比較欠缺了解
2024-06-28
8/3 週六 AI Grant 計畫，將於 COSCUP 開源人年會，邀請六組團隊分享進度成果，地點在臺北市台科大校區
歡迎大家參加與團隊交流
• 台灣語言模型競技場 Taiwan Chatbot Arena
• LegaL-Mind：智慧法律諮詢系統
• 大量閱讀台灣研究的健康促進小幫手
• 建置定期更新的立委發言觀測儀表板與政治時事資料集
• 台灣AI教學共創實驗室
• 台語自動分詞與詞性標記系統
揪松團目前也與 COSCUP 社群議程軌團隊合作，8/3 週六上午，將邀請聚焦 AI 應用、AI 開源生態系 這兩項與談主題的產業與學界代表交流
歡迎大家參加與團隊交流
• 台灣語言模型競技場 Taiwan Chatbot Arena
• LegaL-Mind：智慧法律諮詢系統
• 大量閱讀台灣研究的健康促進小幫手
• 建置定期更新的立委發言觀測儀表板與政治時事資料集
• 台灣AI教學共創實驗室
• 台語自動分詞與詞性標記系統
揪松團目前也與 COSCUP 社群議程軌團隊合作，8/3 週六上午，將邀請聚焦 AI 應用、AI 開源生態系 這兩項與談主題的產業與學界代表交流
8/3 週六 AI Grant 計畫，將於 COSCUP 開源人年會，邀請六組團隊分享進度成果，地點在臺北市台科大校區
歡迎大家參加與團隊交流
• 台灣語言模型競技場 Taiwan Chatbot Arena
• LegaL-Mind：智慧法律諮詢系統
• 大量閱讀台灣研究的健康促進小幫手
• 建置定期更新的立委發言觀測儀表板與政治時事資料集
• 台灣AI教學共創實驗室
• 台語自動分詞與詞性標記系統
揪松團目前也與 COSCUP 社群議程軌團隊合作，8/3 週六上午，將邀請聚焦 AI 應用、AI 開源生態系 這兩項與談主題的產業與學界代表交流
歡迎大家參加與團隊交流
• 台灣語言模型競技場 Taiwan Chatbot Arena
• LegaL-Mind：智慧法律諮詢系統
• 大量閱讀台灣研究的健康促進小幫手
• 建置定期更新的立委發言觀測儀表板與政治時事資料集
• 台灣AI教學共創實驗室
• 台語自動分詞與詞性標記系統
揪松團目前也與 COSCUP 社群議程軌團隊合作，8/3 週六上午，將邀請聚焦 AI 應用、AI 開源生態系 這兩項與談主題的產業與學界代表交流
- 👍2
- 📢1
1
1
2024-06-29
@elise.ihsuan has joined the channel
新世代參與社群，有包含 AI 嗎？他們也很新，他們需要的 onboard 要怎麼做？
https://g0v.hackmd.io/x-zztBGkT36iGyQG0xPrnA?view
https://g0v.hackmd.io/x-zztBGkT36iGyQG0xPrnA?view
新世代參與社群，有包含機器人嗎？他們也很新，他們需要的 onboard 要怎麼做？
https://g0v.hackmd.io/x-zztBGkT36iGyQG0xPrnA?view
https://g0v.hackmd.io/x-zztBGkT36iGyQG0xPrnA?view
2024-06-30
WIRED
Illia Polosukhin doesn't want big companies to determine the future of artificial intelligence. His alternative vision for “user-owned AI” is already starting to take shape.
好想學怎麼用 llm 做這種簡單的小工具 ><
今天試著完全用 AI 來做一個網站，起因只是想知道哪座百岳大概在台灣的哪裡，所以做這個台灣百岳地圖 <https://100peaks.info/> 用的是 Claude 3.5，製作流程大致上是到 Claude 上，開一個新的 Chat，從一開始將網站構想跟他描述，AI 就會產生程式碼跟說明，將程式碼儲存後，申請 Google Maps API Key，然後逐步優化，優化方式也都是跟 AI...
好想學怎麼用 ai 做這種簡單的小工具 ><
https://www.facebook.com/share/p/fJtiCZsD1NAYNr3T/?mibextid=WC7FNe
https://www.facebook.com/share/p/fJtiCZsD1NAYNr3T/?mibextid=WC7FNe