我想到一個更好的例子,是之前 vTaiwan 有參與的 OpenAI Democratic Inputs to AI
在 OpenAI 這個 program 的網站上有寫說:「AI will have significant, far-reaching economic and societal impacts. […] No single individual, company, or even country should dictate these decisions.」這句話有一個潛在的假設是世界上只有一種 AI,如果從 liberal 的觀點來設計這個 AI,那首要任務是確保所有不同的價值觀都要被 AI 完整保留與呈現。
反之當我自己第一眼看到 Democratic Inputs to AI 的時候,我腦中的假設是每隔群體、組織、或國家,都有屬於他們自己的 AI。所以我腦中浮出的第一個問題是,我們要怎麼樣讓群體中的每個人可以一起參與設計這個 AI,畢竟這個 AI 會影響每一個群體中的成員。這是一個比較 democratic 的觀點,在乎的是 self-rule governece 而非 liberal 的觀點。
這兩個不同的假設與觀點會造成截然不同的手段。舉例來說,如果我們只是要保留各種不同的價值觀(liberal approach),那我們可以用問卷收集大量不同的價值觀,並在訓練 AI 的過程中確保沒有任何一個被掩蓋掉。然而如果我們是 AI 自治的觀點(democratic appraoch),那我們就得確保群體的成員對設計 AI 有所共識,畢竟這個 AI 會影響到群體中的每個人,而為了達成共識就不能只是收集問卷,而必須讓大家互相討論與分享觀點,達到一個可能不是所有人都滿意,但是所有人都可以接受的結果
好奇「推進民主/Democracy的手段上有許多根本性的差異」是否有更多的想法~