#7 Feature/contributor

*Changes* • Implement contributors function which compare and update article.contributors since last snapshot • Upgrade hocuspocus/server to 2.7.1 • ref: <https://github.com/cofacts/collab-server/pull/6|#6> *Migrate* 1. Make sure reindexed the articles using `npm run reload -- articles` in <https://github.com/cofacts/rumors-db/pull/67|rumors-db> 2. Pre-fill `usersMap` with data: const usersMap = new Map(<https://g0v.hackmd.io/@ZENl3iLKTLaoUuoGPATdbg/HkxTGBgJC|data>) 3. (optional) Start ssh port forwarding `ssh -L 62222:<http://staging.server.path.to:62222|staging.server.path.to:62222> <mailto:root@staging.server.path.to|root@staging.server.path.to>` 4. Run `npx ts-node --esm ./migration/addContributors.ts` • use nodejs 16 or older version of nodejs18 It should output with 9 error articleId including • 4 are empty transcripts • 5 are transcripts that have some unknown user, articleIds are `svXFoosBAjOeMOklEKR3`, `YGoVfIgBvEj1WkaUtc9M`, `CvSJAIsBAjOeMOklKu45`, `Dvfubo0BAjOeMOklG9PK`, `c_YhOowBAjOeMOklCFve` *Verify result* Elasticsearch query ``` # Can change `must` to `must_not` to check articles that have no contributors. GET /articles/doc/_search { "size":20, "sort" : [ { "updatedAt" : "desc" } ], "query": { "bool": { "must": [ { "nested": { "path": "contributors", "query": { "exists": { "field": "contributors.appId" } } } } ] } } } ``` Or use <https://github.com/cofacts/rumors-api/pull/335|graphql api> to get articles contributed by specific user.

• 1

mrorz 2024-05-02 17:16:36

dev.cofacts.tw 現在已經是最新的 snapshot (上週日凌晨) 的內容囉

晚上先測 API
測完可以在 staging 跑跑看 migration

HackMD

Cofacts 會議記錄 - HackMD

# Cofacts 會議記錄 - [搜尋](<https://cse.google.com/cse?cx=71f4f7ee215d54fe6>)[target=_blank] ## 2024 -

cai 2024-05-07 13:03:13

瀏覽權限未開

mrorz 2024-05-07 13:04:43

我自己也看不到
怪

mrorz 2024-05-07 13:06:26

修好了
感謝提醒

HackMD

Cofacts 會議記錄 - HackMD

# Cofacts 會議記錄 - [搜尋](<https://cse.google.com/cse?cx=71f4f7ee215d54fe6>)[target=_blank] ## 2024 -

• 🤔1

• 🦒1
• 🐳1
• 🌸1

mrorz 2024-05-18 19:16:58

我打開 I am under attack mode
API 存取可能會有影響

mrorz 2024-05-18 19:31:26

攻擊好像停了，但系統可能卡在 Swap 用光的狀態，我手邊沒電腦處理 orz

mrorz 2024-05-18 20:07:13

服務自己復活了
I am under attack 關掉

mrorz 2024-05-18 20:08:59

新的攻擊標的是 https://cofacts.tw/article/1rfvth8iy4fnc

• 👍1

mrorz 2024-05-19 12:52:32

剛才用 Google 以圖找圖找不到原始創作者
但是社群平台 IG、Tiktok 非常多
不過因為 Cofacts 原圖沒有上 Tiktok 浮水印，來源應是其他平台

Peter 2024-05-20 12:32:53

我爸跟我媽各自傳了一個…

HackMD

Cofacts 會議記錄 - HackMD

# Cofacts 會議記錄 - [搜尋](<https://cse.google.com/cse?cx=71f4f7ee215d54fe6>)[target=_blank] ## 2024 -

HackMD

Cofacts 會議記錄 - HackMD

# Cofacts 會議記錄 - [搜尋](<https://cse.google.com/cse?cx=71f4f7ee215d54fe6>)[target=_blank] ## 2024 -

• 🙌1

ronnywang 2024-05-27 13:29:42

他背後是用 https://zh.wikipedia.org/wiki/%E8%B2%9D%E8%91%89%E6%96%AF%E5%9E%83%E5%9C%BE%E9%83%B5%E4%BB%B6%E9%81%8E%E6%BF%BE Bayes spam filtering 技術，所以找找看有沒有開源的類似的 Bayes spam filtering 專案也可

mrorz 2024-05-27 13:32:42

喔喔 naive bayes 嗎

mrorz 2024-05-27 13:32:48

那就是要斷詞 XD

mrorz 2024-05-27 13:33:27

目前我們的方向是先自動化，然後偵測的部分可以接不同模組（第二階段）

ronnywang 2024-05-27 13:33:32

我可以貢獻 ckip api XD 我家裡買了一台 4090 server ，我可以來生一個斷詞 API 給 cofacts 用 XD

mrorz 2024-05-27 13:33:59

~最近在玩九日回報 bug 所以都沒開發~

ronnywang 2024-05-27 13:35:03

我也可以貢獻一些 whisper 的算力 XD 花了 20 萬元買一台 4090 的 server ，希望他可以物盡其用 XD

mrorz 2024-05-27 13:36:46

其實 whisper 滿多有趣的 variant 耶
官方的有 API，但有些服務會加上 voice activity detection 減少 hallucination
如 https://github.com/m-bain/whisperX
這種因為用的人比較少，就很少會有 API 24 小時待命，一直開著也好貴

mrorz 2024-05-27 13:38:01

（之前的研究與效果： https://g0v.hackmd.io/wkx286lmTDaFUpgRhnUawQ#WhisperX-on-replicate ）
如果能 host whisperx 的話就幫大忙了 m(_ _)m

ronnywang 2024-05-27 13:38:37

我就覺得一直開很貴，然後今年又想好好把立法院的 ivod 都處理一下，所以就決定買一台 4090 了

之前也是用 whisperx 處理上次院會的討論

ronnywang 2024-05-27 13:39:52

那我生一個 API 給你們
用法可能是這樣
1. https://whisperx-api/queue?url={mp4_or_wav_url}&callback={done_url}&key={key_for_cofacts}
2. 然後 whisperx 處理完後，就會去呼叫 done_url 把結果送過去
這樣對你們來說是方便的嗎？

mrorz 2024-05-27 13:40:46

聽起來很不錯，不過不急
好奇通常會花多久時間呀

ronnywang 2024-05-27 13:40:58

因為這種 query 比較難秒殺，影片越長可能要算越久，所以想把 API 設計成這種非同步的

mrorz 2024-05-27 13:41:20

這裡有一些我們測試的例子，跟 whisperx 在 replicate 上的執行時間

https://docs.google.com/spreadsheets/d/10xfkOZpGJ-9vIvoYziEkD1lZETWMbBLDT-NABdQ8H_g/edit#gid=678820735

ronnywang 2024-05-27 13:42:20

其實用 4090 滿快的，上次處理 5/21 的院會記錄，他分成兩段，分別是 10h24m57s 和 4h51m22s
分別跑完whisperx + diarize 花了 20m0.139s 和 9m19s

ronnywang 2024-05-27 13:42:26

diarize 花比較多時間

mrorz 2024-05-27 13:42:45

會分 speaker 真的滿厲害的

mrorz 2024-05-27 13:42:52

幸好逐字稿這裡不用

mrorz 2024-05-27 13:43:07

話說我們可能會需要 prompt 的參數

ronnywang 2024-05-27 13:43:23

好，那我 API 可能可以再多加一個 init_prompt 的參數

mrorz 2024-05-27 13:47:28

關於 API 是同步好還是非同步好
我們目前實作都是接同步的 API
非同步的話我這裡應該會用寫 redis + 監聽 redis 來與現有同步 API

kiang 2024-05-27 17:15:37

好奇 cofacts 有沒有申請過國網中心的資源，也許有機會用 v100 的算力
https://youtu.be/kAyYWZ4PNXw

mrorz 2024-05-27 19:00:37

沒申請過耶，畢竟我們也沒有 data scientist / MLOps 處理這塊，我只會 call API XD

• 👀2

mrorz 2024-05-30 13:59:13

看起來應該是要求業者實名
不知道網傳訊息為何要個人去認證呢