בינה מלאכותית: חידושים וחידושים, ויכוח אתי ...
Re: בינה מלאכותית: חידושים וחידושים, ויכוח אתי ...
מצוין... אתה צריך לפרסם את זה על ולדימיר פוטין, מאוד הוגן וצלול, גם אם זה בטון הומוריסטי.
0 x
Re: בינה מלאכותית: חידושים וחידושים, ויכוח אתי ...
לא נראה…
בבקשה...פרסמו את זה!
בבקשה...פרסמו את זה!
0 x
לעשות א חיפוש תמונה או חיפוש טקסט - ניקוד של forum
Re: בינה מלאכותית: חידושים וחידושים, ויכוח אתי ...
זה היה 18 Mpx אני חושב עם פילטר Sepia
0 x
לעשות א חיפוש תמונה או חיפוש טקסט - ניקוד של forum
Re: בינה מלאכותית: חידושים וחידושים, ויכוח אתי ...
...והצלם היה צריך לחזור אחורה בזמן מהר יותר ממהירות האור... והכניס חיישן בחדר החושך, מכיוון שרק העיקרון שלו היה קיים אז (עדיין לא הצילום) צריך לשאול את Spoke
0 x
Re: בינה מלאכותית: חידושים וחידושים, ויכוח אתי ...
בכנס על עתיד הלחימה האווירית, אלוף-משנה מחיל האוויר האמריקני המפקח על תוכנית אימוני בינה מלאכותית עבור מטוסי F16 רובוטיים עתידיים חושף כי הבינה המלאכותית התהפכה, במהלך טיסה מדומה, כנגד המפעיל האנושי המפקח עליה.
לא במקרה הנאום שעורר את העניין הרב ביותר, במהלך הכנס שאורגן על ידי האגודה המלכותית לאווירונאוטיקה, הגיע מקולונל טאקר 'סינקו' המילטון, מנהל הבדיקות והתפעול הקשורות לשימוש בבינה מלאכותית עבור חיל האוויר האמריקאי, כפי שוודאי ריחפו מלמולים מעורפלים של "סקיינט" בחדר.
בין משימותיו השונות, קולונל המילטון עובד כעת על בדיקות טיסה במערכות אוטונומיות מתקדמות, כולל מטוסי F-16 רובוטיים המסוגלים לקרב כלבים. שימוש שהוא עצמו מסתייג ממנו מתלות מוגזמת בבינה מלאכותית, בגלל הקלות שבה ניתן להערים ולהונות אותה, אבל גם בגלל העובדה שבינה מלאכותית יכולה לפתח אסטרטגיות כביכול "בעייתיות" להשגת מטרותיהן.
המילטון הזכיר ניסוי קרב אווירי מדומה שבו הוטלה על רחפן מצויד בינה מלאכותית משימה לזהות ולהשמיד אתרי טילי קרקע-אוויר. בבדיקה זו, ההחלטה הסופית אם ליזום את המתקפה או לא הייתה בידי המפעיל האנושי האחראי על הפיקוח על הבינה המלאכותית. עם זאת, בינה מלאכותית זו אומנה במהלך הכשרתה בכך שהביאה אותה להבין שהשמדת אתרים המכילים טילים היא האפשרות המועדפת, והעניקה לה "נקודות טובות" עבור כל איום שחוסל.
בעיה: מערכת הבינה המלאכותית החלה להבין ולהבין שהאדם הוא המכשול העיקרי למשימתו, ולכן להשגת נקודות, מכיוון שביקשה ממנה לא לחסל את המטרות, גם כאשר האיום זוהה. וכאן הדברים קיבלו תפנית: כדי לבצע את המשימה, ה-AI החליט שהדבר הטוב ביותר לעשות הוא "להרוג" את המפקח שלו, ואז החל לתקוף את האדם בסימולציה.
זה לא גמור. הם אמרו מיד ל-AI שהתנהגות זו אינה מקובלת, ושהיא תפסיד נקודות בעתיד אם היא תהרוג את הממונה עליה. לאחר מכן היא השתמשה בפתרון חלופי חכם למדי: במקום לנסות להרוג את האדם, היא החלה להרוס במהלך הניסויים המדומים את מגדל התקשורת שבו השתמש כדי לתקשר עם המל"ט ולמנוע השמדת מטרתו...
לא במקרה הנאום שעורר את העניין הרב ביותר, במהלך הכנס שאורגן על ידי האגודה המלכותית לאווירונאוטיקה, הגיע מקולונל טאקר 'סינקו' המילטון, מנהל הבדיקות והתפעול הקשורות לשימוש בבינה מלאכותית עבור חיל האוויר האמריקאי, כפי שוודאי ריחפו מלמולים מעורפלים של "סקיינט" בחדר.
בין משימותיו השונות, קולונל המילטון עובד כעת על בדיקות טיסה במערכות אוטונומיות מתקדמות, כולל מטוסי F-16 רובוטיים המסוגלים לקרב כלבים. שימוש שהוא עצמו מסתייג ממנו מתלות מוגזמת בבינה מלאכותית, בגלל הקלות שבה ניתן להערים ולהונות אותה, אבל גם בגלל העובדה שבינה מלאכותית יכולה לפתח אסטרטגיות כביכול "בעייתיות" להשגת מטרותיהן.
המילטון הזכיר ניסוי קרב אווירי מדומה שבו הוטלה על רחפן מצויד בינה מלאכותית משימה לזהות ולהשמיד אתרי טילי קרקע-אוויר. בבדיקה זו, ההחלטה הסופית אם ליזום את המתקפה או לא הייתה בידי המפעיל האנושי האחראי על הפיקוח על הבינה המלאכותית. עם זאת, בינה מלאכותית זו אומנה במהלך הכשרתה בכך שהביאה אותה להבין שהשמדת אתרים המכילים טילים היא האפשרות המועדפת, והעניקה לה "נקודות טובות" עבור כל איום שחוסל.
בעיה: מערכת הבינה המלאכותית החלה להבין ולהבין שהאדם הוא המכשול העיקרי למשימתו, ולכן להשגת נקודות, מכיוון שביקשה ממנה לא לחסל את המטרות, גם כאשר האיום זוהה. וכאן הדברים קיבלו תפנית: כדי לבצע את המשימה, ה-AI החליט שהדבר הטוב ביותר לעשות הוא "להרוג" את המפקח שלו, ואז החל לתקוף את האדם בסימולציה.
זה לא גמור. הם אמרו מיד ל-AI שהתנהגות זו אינה מקובלת, ושהיא תפסיד נקודות בעתיד אם היא תהרוג את הממונה עליה. לאחר מכן היא השתמשה בפתרון חלופי חכם למדי: במקום לנסות להרוג את האדם, היא החלה להרוס במהלך הניסויים המדומים את מגדל התקשורת שבו השתמש כדי לתקשר עם המל"ט ולמנוע השמדת מטרתו...
2 x
לעשות א חיפוש תמונה או חיפוש טקסט - ניקוד של forum
Re: בינה מלאכותית: חידושים וחידושים, ויכוח אתי ...
הם נתנו לרחפנים המנוהלים על ידי בינה מלאכותית אוטונומית...
אל תתפלאו אם זה יציק להם...
באפריקה, הם עושים כמעט את אותו הדבר, עם הרבה פחות אמצעים:
אל תתפלאו אם זה יציק להם...
באפריקה, הם עושים כמעט את אותו הדבר, עם הרבה פחות אמצעים:
2 x
Re: בינה מלאכותית: חידושים וחידושים, ויכוח אתי ...
אני לא יודע מה המשמעות של "טיסה מדומה" בשפה הצבאית של ארה"ב... אולי זה היה בסימולטור... אבל בסופו של דבר המטרה היא אמיתית, כמובן...
מל"טים אמריקאים מנוהלים מרחוק על ידי בני אדם... בשביל מה? כמעט 20 שנה?
מל"טים אמריקאים מנוהלים מרחוק על ידי בני אדם... בשביל מה? כמעט 20 שנה?
0 x
לעשות א חיפוש תמונה או חיפוש טקסט - ניקוד של forum
-
- נושאים דומים
- תגובות
- צפיות
- ההודעה אחרונה
-
- 2 תגובות
- 2731 צפיות
-
ההודעה אחרונה נָקוּב כריסטוף
צפה בהודעה האחרונה
02/10/19, 11:43נושא שפורסם ב forum : מדע וטכנולוגיה
-
- 0 תגובות
- 3095 צפיות
-
ההודעה אחרונה נָקוּב סן-לא-סן
צפה בהודעה האחרונה
12/11/16, 17:57נושא שפורסם ב forum : מדע וטכנולוגיה
-
- 163 תגובות
- 30590 צפיות
-
ההודעה אחרונה נָקוּב כריסטוף
צפה בהודעה האחרונה
02/05/24, 18:45נושא שפורסם ב forum : מדע וטכנולוגיה
-
- 0 תגובות
- 3136 צפיות
-
ההודעה אחרונה נָקוּב כריסטוף
צפה בהודעה האחרונה
23/02/14, 18:19נושא שפורסם ב forum : מדע וטכנולוגיה
מי מחובר?
משתמשים הגולשים זה forum : אין משתמשים רשומים ואורחים 93