Anthropic naglabas ng 80-pahinang "Claude Constitution" para i-upgrade ang AI alignment framework

PANews 23 Enero balita, ang AI large model na kumpanya na Anthropic ay kamakailan lamang ay nagbukas ng bagong bersyon ng "Claude Constitution" at inilabas ito sa ilalim ng Creative Commons CC0 1.0 license, bilang pinakamataas na awtoridad sa training, na ginagamit para sa pagbuo ng synthetic training data at ranking feedback; mula sa "paglilista ng mga prinsipyo" ay naging pagpapaliwanag ng "bakit ganito", upang mapabuti ang generalization sa mga bagong sitwasyon. Ang dokumento ay nakaayos ayon sa malawakang seguridad > malawakang etika > pagsunod sa mga gabay > tapat na pagtulong, at inilista ang mga "mahigpit na limitasyon" (tulad ng hindi pagbibigay ng aktwal na tulong sa biological weapons), at nagdagdag ng mga seksyon tungkol sa virtues, psychological safety, at self-awareness ng modelo, na binibigyang-diin ang transparency at patuloy na pag-ulit.