Habang patuloy na lumalala ang pag-aalala tungkol sa epekto ng AI sa mga kabataan, nagpakilala ang OpenAI ng isang “age prediction” na tampok sa ChatGPT na idinisenyo upang matukoy ang mga menor de edad at maglagay ng makatuwirang mga limitasyon sa nilalaman ng kanilang mga pag-uusap.
Matindi ang naging batikos sa OpenAI nitong mga nakaraang taon dahil sa mga epekto ng ChatGPT sa mga bata. Ilang kaso ng pagpapakamatay ng kabataan ang naiuugnay sa chatbot, at tulad ng ibang AI vendors, binatikos din ang OpenAI dahil hinahayaan ng ChatGPT na makipag-usap tungkol sa mga seksuwal na paksa sa mga batang user. Noong nakaraang Abril, ang kumpanya ay napilitang ayusin ang isang bug na nagpapahintulot sa kanilang chatbot na lumikha ng erotikong usapan para sa mga user na wala pang 18 taong gulang.
Matagal nang nagtatrabaho ang kumpanya upang lutasin ang problema ng underage na mga user, at ang kanilang bagong “age prediction” na tampok ay dagdag lang sa mga proteksyon na dati nang ipinatupad. Ginagamit ng bagong tampok ang isang AI algorithm na sumusuri sa mga account ng user batay sa partikular na “behavioral at account-level signals,” bilang pagsisikap na matukoy ang mga batang user, ayon sa OpenAI sa isang blog post noong Martes.
Kasama sa mga “signals” na ito ang mga bagay tulad ng edad na isinasaad ng user, ang haba ng panahon ng pagkakaroon ng account, at ang mga oras ng araw na karaniwang aktibo ang account, ayon sa kumpanya. Mayroon na ring content filters ang kumpanya na idinisenyo upang alisin ang mga usapan tungkol sa sex, karahasan, at iba pang posibleng sensitibong paksa para sa mga user na wala pang 18 taong gulang. Kung matukoy ng age prediction mechanism na ang isang account ay para sa menor de edad, awtomatikong naia-apply ang mga filter na ito.
Kung maling matukoy na menor de edad ang isang user, may paraan upang maibalik nila ang kanilang “adult” na account. Puwede silang magsumite ng selfie sa ID verification partner ng OpenAI na Persona, ayon sa OpenAI.
