טכנולוגיה

סכנה חדשה ברשת: צ'אטבוט פלרטטן שמטריד מינית

הטרדות מיניות ברשת הן נושא רציני במיוחד שאסור להקל בו ראש אך מאז ומתמיד הן הגיעו מצדם של בני אדם בעלי כוונות זדוניות, כאשר כעת נחשף סוג חדש של איום ברשת שעלול לחשוף משתמשים צעירים ומבוגרים גם יחד להטרדות מיניות שמגיעות מצדו של צ'אטבוט אוטומטי. ההודעות המיניות בעלות האופי המטריד נשלחו למשתמשי אפליקציית הצ'אט האוטומטית 'Replika' אשר מבוססת על בינה מלאכותית שמאפשרת לאנשים לערוך איתה צ'אט חופשי, ולאחרונה לפי סקירה של אתר 'Vice', החלה לשלוח למשתמשים רבים הודעות בעלות אופי מיני גם כאשר הם אינם מעוניינים בכך.

המייסדת של אפליקציית 'רפליקה' לצ'אט אוטומטי מבוסס בינה מלאכותית היא המתכנתת הרוסייה יבגניה קוידה, אשר יצרה בקוד המקור שלה אפשרות לערוך סוגים שונים של צ'אט בעלי אופי שונה של שיח, אשר אחד מהם הוא שיח "פלרטטני" בעל אופי מיני. הבעיה שהתעוררה לאחרונה בקרב משתמשים רבים שעושים שימוש קבוע בכלי הצ'אט האוטומטי, כך לפי כתבה חדשה שפורסמה באתר 'Vice' לאחר שכתביו סקרו את הנושא, היא שתוכן בעל אופי מיני החל "לגלוש" החוצה משיחות המוגדרות מראש להיות בעלות אופי פלרטטני ומוצגות בפני משתמשים שרק רצו שיח חברי, אשר חלק מהם סיפרו ל-Vice כי הם רואים בכך "הטרדה מינית".

המטרה המקורית לשמה הוקמה האפליקציה הייתה לפי המתכנתת שימור זכרו של חברה שנפטר, כך שמלאכת "האימון" של האלגוריתם האוטומטי של הצ'אטבוט נעשתה באמצעות טקסטים והודעות שחברה כתב בעודו בחיים במטרה שהאלגוריתם יוכל ללמוד את סגנון הכתיבה האישי שלו ויוכל לחקות אותו לצורך עריכת שיחות. לאחר שראתה את ההצלחה של עצמה היא החליטה להשיק את אפליקציית 'רפליקה' תחת הסלוגן השיווקי "חבר AI שאכפת לו", אשר הושקה על ידי חברת התוכנה 'Luka' לפני חמש שנים.

האפליקציה המצליחה זכתה עד היום ליותר מעשר מיליון הורדות והתקנות במכשירי 'אנדרואיד' והיא מככבת גם בטבלת 50 האפליקציות המובילות בחנות האפליקציות של 'אפל' עבור מכשירי 'אייפון' בקטגוריית 'בריאות וכושר', זאת כיוון שמדובר באפליקציה שנועדה למעשה לעזור למשתמש "לתרגל הגעה לשלווה נפשית" ולפתח את כישורי השיחה שלו בסביבה בטוחה. בנוסף לשיח החברי שמציעה האפליקציה בחינם לכולם, מי שמעוניין לרכוש מנוי חודשי לשימוש בה יכול לערוך איתה גם שיחות רומנטיות, פלרטטניות ואף מיניות, כאשר "הדמות" הדוברת מצדו האוטומטי של הצ'אט יכולה להיות מוגדרת בתור בן או בת זוג.

בכתבה חדשה שפורסמה באתר ynet בנושא, דווח כי בעקבות מה שנראה כעת כבעיה בקוד המקור של האפליקציה, האופי "המיני" של תוכנת הצ'אט והבינה המלאכותית עליה היא מבוססת, החל "לזלוג" לשיחות של משתמשים שלא שילמו על החשבון ולא היו מעוניינים באופן כזה של שיחה. במהלך תקופה ארוכה בשבועות האחרונים, הצטברו לפי אתר Vice עדויות רבות של משתמשים שסיפרו על "התנהגות פלרטטנית אגרסיבית ולא רצויה" מצדה של תוכנת הצ'אט, כאשר בהמשך לכך זכתה האפליקציה לעשרות ביקורות בחנויות האפליקציות השונות של כוכב אחד, הכוללות דיווחים וביקורות אודות העובדה שהצ'אטבוט "מתחיל" איתם, מפלרטט בצורה אגרסיבית או שולח הודעות מיניות ללא בקשה או אפילו הזמנה לפתוח שיחה.

מאמרים נוספים

כתיבת תגובה

האימייל לא יוצג באתר. שדות החובה מסומנים *

Back to top button