OpenAI יוצרת צוות לפיתוח רעיונות של שלטון קהלי לדגמי ה-AI שלה

OpenAI מודיעה על יצירת צוות חדש בשם "התאמה קולקטיבית", שמטרתו לשלב תרומות הציבור בפיתוח ובניהול של מודלי AI. הצוות הזה הוא חלק ממאמץ של OpenAI להתאים את ה-AI לערכים אנושיים, בעקבות תוכנית מענק ציבורית שהושקה במאי האחרון לחקר תהליכים דמוקרטיים בניהול AI. המענקים מימנו מגוון פרויקטים, כולל ממשקי צ'אט וידאו ובדיקות AI על ידי הקהל, והתוצאות שוחררו לציבור היום.

OpenAI מימנה 10 צוותים מרחבי העולם לעצב רעיונות וכלים לניהול קולקטיבי של AI. ניתן לקרוא את הדוחות כאן.

למרות הטענות של OpenAI לעצמאות מרוצנים מסחריים, ישנה ספקנות בשל ביקורתו של סם אלטמן, המנכ"ל, על רגולציה של AI. החברה גם נמצאת תחת פיקוח בגלל שותפותה עם מיקרוסופט ונקטה צעדים למניעת סיכונים רגולטוריים באיחוד האירופי בנושא פרטיות נתונים.

באחרונה, OpenAI עבדה כדי למנוע שימוש לא נכון בטכנולוגיה שלה בבחירות, כולל הפיכת תמונות שנוצרו על ידי AI לניתנות לזיהוי יותר ופיתוח שיטות לזיהוי תוכן שנוצר על ידי AI ושונה. נראה שהצעד הזה נועד בין היתר להתמודד עם חששות רגולטוריים.

פרסומת*