Родителите чии сметки се поврзани со сметките на нивните деца, односно тинејџери, ќе бидат известени доколку нивните деца ги прекршат политиките на компанијата OpenAI што се однесуваат на насилство.
Како што е соопштено, OpenAI отсега ќе ги известува родителите и старателите со поврзани сметки доколку на нивното дете му биде укинат пристапот до ChatGPT поради прекршување на неговите правила што се однесуваат на закани со насилство или акти на насилство на интернет.
Компанијата минатата година воведе родителски контроли за ChatGPT, овозможувајќи им на родителите да ги поврзат своите лични сметки со сметките на нивните тинејџерски деца. Тоа им овозможува да одредат периоди во кои ChatGPT не може да се користи, да го намалат прикажувањето чувствителна содржина и да бидат известени доколку четботот препознае знаци дека нивното дете можеби размислува за самоповредување.
Сега OpenAI го прошири системот за известувања за да ги предупредува родителите и доколку нивното дете претставува можна опасност за други лица.
Во примерот што го објави компанијата, OpenAI му испратил на родител известување за „важно ажурирање“ поврзано со сметката на неговото дете.
Потоа родителот може да кликне на опцијата „Learn More“ за да види подолга порака во која се наведува дека сметката на неговото дете е деактивирана поради прекршување на правилата за користење што се однесуваат на „акти на насилство“.
Компанијата соработувала со Moonshot, специјализирана за следење и спречување насилство на интернет, за да ја развие оваа функција.
„Известувањето на родителите кога ќе се појави сериозна загриженост, со можност да добијат повеќе контекст, претставува клучен прв чекор што им дава на семејствата можност навреме да реагираат и да побараат помош. Ваквиот пристап е само една од бројните мерки што ќе бидат потребни за младите да бидат побезбедни додека го користат ChatGPT“, изјавила основачката на Moonshot, Vidhya Ramalingam.
OpenAI се обврза дополнително да ги зајакне своите безбедносни протоколи откако беше откриено дека осомничениот за масовното пукање во Тумблер Риџ, во Британска Колумбија, во 2025 година го користел ChatGPT.
Канадските власти ги повикаа претставниците на компанијата откако се појавија извештаи дека OpenAI не ги известил надлежните органи кога му го забранил користењето на сметката на осомничениот напаѓач.
Извршниот директор на OpenAI, Sam Altman, исто така се извини за овој пропуст.
Покрај воведувањето на новиот систем за известување, OpenAI овозможи и директно активирање на режимот „Study Mode“ преку родителските контроли. Овој режим му овозможува на ChatGPT да дава насоки пред да одговори на прашањата, со цел да им помогне на учениците и студентите во учењето.
Освен тоа, четботот почесто ќе им прикажува потсетници на тинејџерите кои поминуваат подолго време користејќи го ChatGPT да направат пауза, со цел да развијат поздрави навики при користењето на технологијата.
