Slack archive

ai-learning

Month: 2024-06

2024-06-01

kiang 22:20:15
https://www.facebook.com/share/w49f2U2LqSibYQip/

看起來買 M2 Ultra 是比較經濟實惠的選擇，目前 4090 也只能用 24GB 記憶體

facebook.com

Shih-Hao Hung

在個人裝置上跑大小型語言模型 驅動當今AI服務的核心引擎是大型語言模型（LLM），但這類名詞就像大數據（Big Data）一樣，對於所謂的「大」，並沒有明確的定義，因此往往被錯誤或浮濫使用。 這篇就來談談語言模型的大小，以及在現在的個人裝置上能跑多大的語言模型。...

大概就是可以跑，但速度沒有很快
https://github.com/XiongjieDai/GPU-Benchmarks-on-LLM-Inference
👍 1
kiang 22:20:15
https://www.facebook.com/share/w49f2U2LqSibYQip/

看起來買 M2 Ultra 是比較經濟實惠的選擇，目前 4090 也只能用 24GB 記憶體
大概就是可以跑，但速度沒有很快
https://github.com/XiongjieDai/GPU-Benchmarks-on-LLM-Inference

2024-06-02

kiang 15:15:27
6/2 LIVE19:00 黃仁勳主題演講全程直播

輝達執行長NVIDIA CEO Jensen Huang-AI人工智慧時代如何帶動全球新產業革命

[中文口譯]
https://www.youtube.com/live/lp2xDN1HcwM?si=-290vQn7KIxoCzvH

[原音ENG CC]
https://www.youtube.com/live/fWOpGOxJ7OI?si=cf2zxUJjV6NhligT

YouTube

[中文口譯]:red_circle:6/2LIVE19:00黃仁勳主題演講全程直播！NVIDIA CEO Jensen Huang's Keynote- AI人工智慧時代如何帶動全球新產業革命發展 COMPUTEX2024

另有英文原音版直播ENG Live:point_right:<https://youtube.com/live/NbCaQ9IWMbcNVIDIA> 執行長黃仁勳將於 6 月 2 日 19:00 於臺灣大學綜合體育館進行主題演講，分享人工智慧時代如何帶動全球新產業革命的發展。NVIDIA founder and CEO Jensen Hu...

YouTube

[原音ENG CC]:red_circle:6/2LIVE19:00 黃仁勳主題演講全程直播！NVIDIA CEO Jensen Huang's Keynote- The Era of AI | COMPUTEX 2024

[英文即時字幕請打開影片右下角CC功能] English live caption is available. 另有中文音譯版直播:point_right:<https://youtube.com/live/lp2xDN1HcwMNVIDIA> 執行長黃仁勳將於 6 月 2 日 19:00 於臺灣大學綜合體育館進行主題演講，分享人工智慧時...

對於夜市的部分印象深刻…
看起來可以每個夜市放一台 H100 伺服器 (誤
kiang 15:15:27
6/2 LIVE19:00 黃仁勳主題演講全程直播

輝達執行長NVIDIA CEO Jensen Huang-AI人工智慧時代如何帶動全球新產業革命

[中文口譯]
https://www.youtube.com/live/lp2xDN1HcwM?si=-290vQn7KIxoCzvH

[原音ENG CC]
https://www.youtube.com/live/fWOpGOxJ7OI?si=cf2zxUJjV6NhligT
對於夜市的部分印象深刻…
看起來可以每個夜市放一台 H100 伺服器 (誤

2024-06-04

Peter 12:57:58
人工智慧對教育、民主和道德議題所帶來的挑戰
Peter 12:57:58
人工智慧對教育、民主和道德議題所帶來的挑戰
NewCliCker 17:50:48
@newclicker has joined the channel

2024-06-07

chewei 09:47:21
6/24 週一下午 Kuwa GenAI OS工作坊 - 生成式AI服務系統建置與應用開發
https://www.facebook.com/share/p/TGGviny4ZKUvjH8N/
chewei 09:47:21
6/24 週一下午 Kuwa GenAI OS工作坊 - 生成式AI服務系統建置與應用開發
https://www.facebook.com/share/p/TGGviny4ZKUvjH8N/

2024-06-09

kiang 00:47:52
https://g0v.hackmd.io/UBBrFa_mQ_uGUm1V1R_YHg

試著用 whisperx 跑，指令 whisperx yfwXL_sJTlI.webm --language zh --diarize --max_speakers 2 ，看起來效果還不賴，只是每一段都太長，不適合塞回去影片當字幕，目前還不知道怎麼限制每一段的長度
嗯，細看還是有些錯誤
加一下 initial prompt
[]
可以試試看「觀眾朋友，大家好。以下是范琪斐訪談黃國昌。」

whisperx 主要還是基於 whisper，應該還是會在某種程度 follow initial prompt 的 style。

上面的 prompt 只是一個例子，我是想要他有下面的性質
• 短
• 標點（我習慣放全形標點，但我有注意到他每次都用半形或空格⋯⋯）
• 繁體
還在想就有人做完了 XD
https://youtu.be/j7GCLLsJfFQ
他還做了個介面去看差異，應該也是平常有在玩吧 XD

https://chiuhans111.github.io/kc-huang-on-fan-american-time-video-compare/
kiang 00:47:52
https://g0v.hackmd.io/UBBrFa_mQ_uGUm1V1R_YHg

試著用 whisperx 跑，指令 whisperx yfwXL_sJTlI.webm --language zh --diarize --max_speakers 2 ，看起來效果還不賴，只是每一段都太長，不適合塞回去影片當字幕，目前還不知道怎麼限制每一段的長度

g0v.hackmd.io

斐姨所思 范琪斐訪談黃國昌 影片逐字 - HackMD

嗯，細看還是有些錯誤
加一下 initial prompt
[]
可以試試看「觀眾朋友，大家好。以下是范琪斐訪談黃國昌。」

whisperx 主要還是基於 whisper，應該還是會在某種程度 follow initial prompt 的 style。

上面的 prompt 只是一個例子，我是想要他有下面的性質
• 短
• 標點（我習慣放全形標點，但我有注意到他每次都用半形或空格⋯⋯）
• 繁體
還在想就有人做完了 XD
https://youtu.be/j7GCLLsJfFQ
他還做了個介面去看差異，應該也是平常有在玩吧 XD

https://chiuhans111.github.io/kc-huang-on-fan-american-time-video-compare/

2024-06-10

2024-06-11

kiang 15:32:43
把立法院公報塞進去開始聊天，還蠻準確的，不過我真的沒辦法把公報逐字稿好好消化驗證就是了

https://notebooklm.google.com/
那個 PDF 是上一屆的會議紀錄嗎
Summary 裡有時代力量
我傳的是 https://ppg.ly.gov.tw/ppg/sittings/2024041081/details?meetingDate=113%2F04%2F12&meetingTime&departmentCode=null

那個「公報紀錄」按下去就是一堆 PDF，但應該都是「第11屆第1會期第9次會議」無誤 XD
可能委員會比較 focused 所以 LLM 表現可以比較好

院會太雜了
kiang 15:32:43
把立法院公報塞進去開始聊天，還蠻準確的，不過我真的沒辦法把公報逐字稿好好消化驗證就是了

https://notebooklm.google.com/
那個 PDF 是上一屆的會議紀錄嗎
Summary 裡有時代力量
我傳的是 https://ppg.ly.gov.tw/ppg/sittings/2024041081/details?meetingDate=113%2F04%2F12&meetingTime&departmentCode=null

那個「公報紀錄」按下去就是一堆 PDF，但應該都是「第11屆第1會期第9次會議」無誤 XD
可能委員會比較 focused 所以 LLM 表現可以比較好

院會太雜了

2024-06-12

ael 00:04:58
https://datanutrition.org/
看起來像是資料標記與應用的顧問服務
ael 00:04:58
https://datanutrition.org/
看起來像是資料標記與應用的顧問服務

2024-06-13

kiang 14:41:03
記錄一下使用 whisperx 的參數與目前認知，歡迎修正
https://g0v.hackmd.io/@kiang/whisperX_notes

HackMD

whisperX 操作記錄 - HackMD

# whisperX 操作記錄 [whisperX](<https://github.com/m-bain/whisperX>) 是基於 OpenAI whisper 模型產生的生態系去組合起來的工具，

有，只是沒有特別比較帶來的改變
kiang 14:41:03
記錄一下使用 whisperx 的參數與目前認知，歡迎修正
https://g0v.hackmd.io/@kiang/whisperX_notes
有，只是沒有特別比較帶來的改變

2024-06-14

kiang 23:16:36
TAIDE 花了2億多，其中超過 1 億是買 H100 XD
https://youtu.be/c-nWFyYP0QU

2024-06-21

Peter 16:44:07
監察院將於7/12 舉辦AI 與人權論壇，歡迎有興趣的大家報名參與：https://events.businesstoday.com.tw/2024/human_rights/index.html
Peter 16:44:07
監察院將於7/12 舉辦AI 與人權論壇，歡迎有興趣的大家報名參與：https://events.businesstoday.com.tw/2024/human_rights/index.html

events.businesstoday.com.tw

【2024 AI x 人權趨勢論壇】人權同行 AI無虞

國家人權委員會主辦 x 今周刊執行

2024-06-22

Peter 10:24:12
https://www.nature.com/articles/s41586-024-07421-0?utm_source=newsletter&utm_medium=email&utm_campaign=newsletter_axioslogin&stream=top

Nature

Detecting hallucinations in large language models using semantic entropy

Nature - Hallucinations (confabulations) in large language model systems can be tackled by measuring uncertainty about the meanings of generated responses rather than the text itself to improve...

Peter 12:04:33
在 sts 年會聽到黃俊儒教授與羅尹悅教授的民眾對AI 態度與理解的研究報告，覺得很有趣
• 治理面：民眾對於 AI 接受度高，但認為社會準備度不夠
• 認知面：對於自動學習有高度的正確認知
◦ 在技術問題與關於道德技術上，比較欠缺了解
🙏 3
Peter 12:04:33
在 sts 年會聽到黃俊儒教授與羅尹悅教授的民眾對AI 態度與理解的研究報告，覺得很有趣
• 治理面：民眾對於 AI 接受度高，但認為社會準備度不夠
• 認知面：對於自動學習有高度的正確認知
◦ 在技術問題與關於道德技術上，比較欠缺了解

2024-06-28

chewei 20:02:04
8/3 週六 AI Grant 計畫，將於 COSCUP 開源人年會，邀請六組團隊分享進度成果，地點在臺北市台科大校區
歡迎大家參加與團隊交流
• 台灣語言模型競技場 Taiwan Chatbot Arena
• LegaL-Mind：智慧法律諮詢系統
• 大量閱讀台灣研究的健康促進小幫手
• 建置定期更新的立委發言觀測儀表板與政治時事資料集
• 台灣AI教學共創實驗室
• 台語自動分詞與詞性標記系統
揪松團目前也與 COSCUP 社群議程軌團隊合作，8/3 週六上午，將邀請聚焦 AI 應用、AI 開源生態系 這兩項與談主題的產業與學界代表交流
chewei 20:02:04
8/3 週六 AI Grant 計畫，將於 COSCUP 開源人年會，邀請六組團隊分享進度成果，地點在臺北市台科大校區
歡迎大家參加與團隊交流
• 台灣語言模型競技場 Taiwan Chatbot Arena
• LegaL-Mind：智慧法律諮詢系統
• 大量閱讀台灣研究的健康促進小幫手
• 建置定期更新的立委發言觀測儀表板與政治時事資料集
• 台灣AI教學共創實驗室
• 台語自動分詞與詞性標記系統
揪松團目前也與 COSCUP 社群議程軌團隊合作，8/3 週六上午，將邀請聚焦 AI 應用、AI 開源生態系 這兩項與談主題的產業與學界代表交流
👍 2 📢 1 1 1

2024-06-29

elise.ihsuan 12:37:16
@elise.ihsuan has joined the channel
chewei 20:11:53
新世代參與社群，有包含 AI 嗎？他們也很新，他們需要的 onboard 要怎麼做？
https://g0v.hackmd.io/x-zztBGkT36iGyQG0xPrnA?view

g0v.hackmd.io

LLM &amp; g0v : LLM 如何參與社群、協力專案開發？ - HackMD

chewei 20:11:53
新世代參與社群，有包含機器人嗎？他們也很新，他們需要的 onboard 要怎麼做？
https://g0v.hackmd.io/x-zztBGkT36iGyQG0xPrnA?view

2024-06-30

Peter 14:16:22
https://www.wired.com/story/user-owned-ai-illia-polosukhin-open-source-web3/?source[…]4f85b72028b&esrc=growl2-regGate-1120&utm_term=WIR_Daily_Active

WIRED

He Helped Invent Generative AI. Now He Wants to Save It

Illia Polosukhin doesn't want big companies to determine the future of artificial intelligence. His alternative vision for “user-owned AI” is already starting to take shape.

tofus 22:31:29
好想學怎麼用 llm 做這種簡單的小工具 ><

facebook.com

Steven Shen

今天試著完全用 AI 來做一個網站，起因只是想知道哪座百岳大概在台灣的哪裡，所以做這個台灣百岳地圖 <https://100peaks.info/> 用的是 Claude 3.5，製作流程大致上是到 Claude 上，開一個新的 Chat，從一開始將網站構想跟他描述，AI 就會產生程式碼跟說明，將程式碼儲存後，申請 Google Maps API Key，然後逐步優化，優化方式也都是跟 AI...

tofus 22:31:29
好想學怎麼用 ai 做這種簡單的小工具 ><
https://www.facebook.com/share/p/fJtiCZsD1NAYNr3T/?mibextid=WC7FNe