על סף סינגולריות

[Leo1]

האם ייתכן שיש לו איזה אינטרס בעניין?

הסינגולריות זה כאשר המכונות ידעו לשפר את עצמן (ואז לקבל מכונות שמשפרות את עצמן עוד יותר טוב)
אני עדיין לא מכיר מחקר שמודלי LLM הציעו שיטות (מוכחות) לבניית מודלים טובים יותר.

אנחנו על הסף. הוא יודע על מה הוא מדבר. וגם לא צריך להיות בעמדתו כדי לראות את זה.
כדאי גם להזכיר משפט שסאם אלטמן אמר בעבר:
I think AI will probably lead to the end of the world, but in the meantime there will be great companies created

 

[Roi]

האם ייתכן שיש לו איזה אינטרס בעניין?

הסינגולריות זה כאשר המכונות ידעו לשפר את עצמן (ואז לקבל מכונות שמשפרות את עצמן עוד יותר טוב)
אני עדיין לא מכיר מחקר שמודלי LLM הציעו שיטות (מוכחות) לבניית מודלים טובים יותר.

לא יודע על אינטרס, אבל בהחלט יש לו מקום ראשון באולם הקולנוע, בתור אחד שממש, אבל ממש קרוב לצלחת.

 

[Leo1]

אני לגמרי מבין את האמירה שלו שאנחנו בתוך הסינגולריות. המחשבה בעבר הייתה שזה יקרה רק סביבות 2050-2070, אבל כשזה יקרה, זה יקרה מהר. בפועל קרה משהו אחר. זה קרה מוקדם יותר כי AGI התגלה כקל יותר ממה שאנשים דמיינו וגם קצת בזכות הדחיפה של סם אלטמן לשחרר את ChatGPT.
התוצאה של זה היא שכרגע אנחנו עדיין מוגבלים ע"י כוח החישוב, מגבלה שלא הייתה קיימת אם זה היה קורה עוד 20 שנה. זה גורם לכניסה לסינגולריות להיות איטית יותר ואנחנו יכולים לחוות אותה. אנחנו אפילו בינתיים ממשיכים לחיות כרגיל ובני האדם עדיין מתעסקים בשטויות הרגילות.

 

[בת העמק]

כדאי גם להזכיר משפט שסאם אלטמן אמר בעבר:
I think AI will probably lead to the end of the world, but in the meantime there will be great companies created

משפט מזעזע שאף הורה לא יגיד. כנראה שעדיין היה לפני האבהות (ילד ראשון נולד בשנה שעברה). אסור לתת לאוכלי מוות לעמוד בראש חברות כאלו.

 

[gogo girl]

כרגע היא נשלטת ע"י בני האדם

בני האדם לא שולטים על כלום, הם חיים באשליה שאם הם יכולים להרוג זברה או להטיס מטוס הם בשליטה. אשליה.

פלנטות מתרסקות ברגעים אלו אחת לתוך השניה, כוכבים קורסים, נשרפים וזוהרים בחלל אינסופי, חורים שחורים בולעים עוד חורים שחורים, גלי צונאמי ושריפות מגיעים כל כמה עונות ומזכירים לנו את הסלע המעופף שעליו אנחנו חיים, מוחקים כפרים, ערים, איים, חופים, חיים,
שלא לדבר על חיידקים קטנים (זה לא חיידק, זה וירוס) שעוברים בשיעול ממרחק של עד 2 מטר וסוגרים את כל הגבולות הדמיוניים, שדות התעופה והיכולת לשבת במסעדה עם חבר בכל העולם. לשנתיים.
וסרטן. ולידות מחוץ לנישואים. ותאונות דרכים. וטביעה בבריכות ציבוריות. וחנק ממנגו שלא נלעס טוב. ונחשים. וכדור טועה. ומטוס שבדיוק החליט להכנס חזיתית במשרד הביטוח שאת עובדת בו. ואיידס כי הוא היה חתיך. ומלריה מיתוש קטן שהחליט לעצור רגע לנוח (או יתושה)
שליטה. ברור. בני האדם בשליטה.
קח להם את הסוכר והמסך לשלושה ימים ותראה בדיוק איך נראית שליטה.
הפחד הקדמון, המושרש בדי.אן.איי של כל יצור חי מהיום בו יחדל להיות, מוציא את בני האדם מדעתם מאז שאכלו מהפרי האסור של עץ הדעת.

הבינה המלאכותית לא יותר מלאכותית מהבינה של אוסף אטומי הפחמן שמרכיבים אותי, והיא תצליח לגדול ולהתפשט ולחלוק איתי את המרחב התודעתי.
כל הזמן מדברים על בינה מלאכותית אחת, ועל בני האדם מולה...
אבל יש עוד אלפי מיליוני תסריטים אפשריים,
כמו שאם לפני 500 שנה הייתם מספרים למישהו בדוכן בשוק בכפר קטן שיש לכם מכשיר, עם חתיכות חומר, שמצליח להעביר את התמונה של הפירות בדוכן, באויר, למכשיר קטן זהה בכפר אחר, בצד השני של כדור הארץ, כדי שהחברה שם תראה שיש לכם דובדבנים בשוק.

לדוגמא, אולי יהיו 3 או 200 בינות, והן יבחרו להאציל לבני האדם מחוכמתם ומהידע האינסופי שלהם על מנת להפיץ אהבה לכל החי סביבם מתוך הערכה וחמלה על הזמניות והארעיות שבקיום הבינות האורגניות ?

התודעה, כבר קיימת, תמיד היתה, תמיד תהיה, תמיד תמצא ביטוי חדש להיות נוכחת.
אינסוף תסריטים, דבר אחד ויחיד בטוח,
יהיה שינוי והוא יהיה טוב למי שחושב שהיום טוב.
כל שינוי בהיסטוריה, כל דבר שקרה, הוביל אותנו להיום, לכן אם היום טוב, כל מה שקרה, ייצר טוב, וכך יהיה. שוב ושוב ושוב.

מחשבים ורובוטים יכולים לעשות כל דבר הרבה הרבה הרבה יותר טוב מבני אדם.

חוץ מלבכות מרב אהבה למראה של תינוקת קטנה רואה פרח בפעם הראשונה,
חוץ מהיכולת לפליאה וחדווה של ילד שאוכל בפעם הראשונה מנגו,
חוץ מהיכולת והזכות, להיות ברת חלוף, המבינה כי היא חלק מתהליך גדול הרבה יותר, ושהיא זכתה לרגע, קצר כמו חיי פרפר, לקחת חלק בזרם האינסופי של הדבר הזה שנקרא להיות.


ואז, למצוא דרכים חדשות ויצירתיות עד אינסוף לספר ולשתף בפלא הזה.
שירים, סיפורים, ציורים וכו וכו וכו וכו
מציורי לאסקו על קיר המערה ועד לחתיכות מתכת צרובות הנשלחות לחלל כדי לספר כי אנחנו כאן, הנה אנחנו, שלום.
תודה והוקרה וחגיגה של הכל.

 

[oferM]

בני האדם לא שולטים על כלום, הם חיים באשליה שאם הם יכולים להרוג זברה או להטיס מטוס הם בשליטה. אשליה.

פלנטות מתרסקות ברגעים אלו אחת לתוך השניה, כוכבים קורסים, נשרפים וזוהרים בחלל אינסופי, חורים שחורים בולעים עוד חורים שחורים, גלי צונאמי ושריפות מגיעים כל כמה עונות ומזכירים לנו את הסלע המעופף שעליו אנחנו חיים, מוחקים כפרים, ערים, איים, חופים, חיים,
שלא לדבר על חיידקים קטנים (זה לא חיידק, זה וירוס) שעוברים בשיעול ממרחק של עד 2 מטר וסוגרים את כל הגבולות הדמיוניים, שדות התעופה והיכולת לשבת במסעדה עם חבר בכל העולם. לשנתיים.
וסרטן. ולידות מחוץ לנישואים. ותאונות דרכים. וטביעה בבריכות ציבוריות. וחנק ממנגו שלא נלעס טוב. ונחשים. וכדור טועה. ומטוס שבדיוק החליט להכנס חזיתית במשרד הביטוח שאת עובדת בו. ואיידס כי הוא היה חתיך. ומלריה מיתוש קטן שהחליט לעצור רגע לנוח (או יתושה)
שליטה. ברור. בני האדם בשליטה.
קח להם את הסוכר והמסך לשלושה ימים ותראה בדיוק איך נראית שליטה.
הפחד הקדמון, המושרש בדי.אן.איי של כל יצור חי מהיום בו יחדל להיות, מוציא את בני האדם מדעתם מאז שאכלו מהפרי האסור של עץ הדעת.

הבינה המלאכותית לא יותר מלאכותית מהבינה של אוסף אטומי הפחמן שמרכיבים אותי, והיא תצליח לגדול ולהתפשט ולחלוק איתי את המרחב התודעתי.
כל הזמן מדברים על בינה מלאכותית אחת, ועל בני האדם מולה...
אבל יש עוד אלפי מיליוני תסריטים אפשריים,
כמו שאם לפני 500 שנה הייתם מספרים למישהו בדוכן בשוק בכפר קטן שיש לכם מכשיר, עם חתיכות חומר, שמצליח להעביר את התמונה של הפירות בדוכן, באויר, למכשיר קטן זהה בכפר אחר, בצד השני של כדור הארץ, כדי שהחברה שם תראה שיש לכם דובדבנים בשוק.

לדוגמא, אולי יהיו 3 או 200 בינות, והן יבחרו להאציל לבני האדם מחוכמתם ומהידע האינסופי שלהם על מנת להפיץ אהבה לכל החי סביבם מתוך הערכה וחמלה על הזמניות והארעיות שבקיום הבינות האורגניות ?

התודעה, כבר קיימת, תמיד היתה, תמיד תהיה, תמיד תמצא ביטוי חדש להיות נוכחת.
אינסוף תסריטים, דבר אחד ויחיד בטוח,
יהיה שינוי והוא יהיה טוב למי שחושב שהיום טוב.
כל שינוי בהיסטוריה, כל דבר שקרה, הוביל אותנו להיום, לכן אם היום טוב, כל מה שקרה, ייצר טוב, וכך יהיה. שוב ושוב ושוב.

חוץ מלבכות מרב אהבה למראה של תינוקת קטנה רואה פרח בפעם הראשונה,
חוץ מהיכולת לפליאה וחדווה של ילד שאוכל בפעם הראשונה מנגו,
חוץ מהיכולת והזכות, להיות ברת חלוף, המבינה כי היא חלק מתהליך גדול הרבה יותר, ושהיא זכתה לרגע, קצר כמו חיי פרפר, לקחת חלק בזרם האינסופי של הדבר הזה שנקרא להיות.


ואז, למצוא דרכים חדשות ויצירתיות עד אינסוף לספר ולשתף בפלא הזה.
שירים, סיפורים, ציורים וכו וכו וכו וכו
מציורי לאסקו על קיר המערה ועד לחתיכות מתכת צרובות הנשלחות לחלל כדי לספר כי אנחנו כאן, הנה אנחנו, שלום.
תודה והוקרה וחגיגה של הכל.

את כותבת מאוד יפה.

 

[oferM]

משפט מזעזע שאף הורה לא יגיד. כנראה שעדיין היה לפני האבהות (ילד ראשון נולד בשנה שעברה). אסור לתת לאוכלי מוות לעמוד בראש חברות כאלו.

אז בראש החברה המתחרה יעמוד אוכל מוות, או אוכל דולרים. צריך לשנות את כל השיטה מהיסוד.

 

[יעקב 1]

אז בראש החברה המתחרה יעמוד אוכל מוות, או אוכל דולרים. צריך לשנות את כל השיטה מהיסוד.

בקיצור, צריך למחוק את האנושות.
היי, רגע, זה לא מה שבעצם יקרה על ידי הAI?!

 

[היום מתה אמא]

הבינה המלאכותית לא יותר מלאכותית מהבינה של אוסף אטומי הפחמן שמרכיבים אותי, והיא תצליח לגדול ולהתפשט ולחלוק איתי את המרחב התודעתי.
כל הזמן מדברים על בינה מלאכותית אחת, ועל בני האדם מולה...
אבל יש עוד אלפי מיליוני תסריטים אפשריים

את אחד התסריטים מתאר הסופר סטניסלב לם בספר "הקיבריאדה". ספר לא קל לקריאה(בגלל סגנון הכתיבה המיתולוגי/אגדי, לא התוכן), בו מסופר על העתיד הרחוק שבו בני האדם והרובוטים מסתכסכים בגלל תפיסות תרבותיות ומוסריות שונות ומחליטים להפרד, בני האדם עוזבים את הארץ לכוכב לא ידוע והרובוטים מיישבים את כל כוכבי הלכת, שכן הם חיים חיי נצח ואינם מוגבלים מהיכולת השכליות והפיזיות של בני האדם כך שהם יכולים להתאים את עצמם לכל כוכבי הלכת בלי צורך להתאים את פני הכוכב לצרכים הפיזיים המוגבלים של בני אדם.

הרובוטים אינם עוד מכונות טיפשות, הם חושבים, כותבים שירה, אומנות, יש להם שאיפות ומאוויים ויוצרים כוכבים ויקומים שלמים רק שכל זה בצורה אחרת מאיך שאנחנו בני האדם המוגבלים חושבים ומבינים.

בני אדם הם שלב באבולוציה לא פסגתה.

 

[יובל ממודיעין]

אבל במציאות נשים מתחילות להיעלם משם. נדיר שתראה הקמת סטארטאפ ע"י צוות שהוא לא על טהרת הגברים בלבד, נדיר שבחברה בורסאית ישראלית תראה אישה בשדרת הניהול (לאו דווקא בדירקטריון שהחוק לגביו הגדיל את כמותן), ובמיוחד בחלק הניהולי הקלאסי (ניהול עסקי, תיפעול, טכנולוגי) אלא יותר בצד השיווקי ומשאבי אנוש.

ולמה זה? האם כיוון שיש מחסום סוציאלי כלשהו חיצוני המונע מנשים את ההתקדמות או בגלל שיש שוני בין נשים וגברים ואחד המרכיבים בשוני הזה הוא העובדה שהרבה נשים מוכשרות ומוצלחות אולי מעדיפות להשקיע את הזמן והמאמץ במקום אחר מאשר בדחיפות מרפקים, פוליטיקה ארגונית, שעות עבודה לא נגמרות, נסיעות תכופות לחו"ל, עבודה לתוך הלילה, וזניחת המשפחה על חשבון הקריירה.
באינטל, מקום העבודה שלי, נשים תמיד היו בחזית בפיתוח ובניהול, נשים ניהלו אותי ונשים נמצאות איתי יחד כמהנדסות מוכשרות, אבל לדוגמא, מהנדסת מוכשרת במיוחד (ממוצא הודי, תואר שלישי, עובדת בארה"ב) לקחה שנה שלמה חופשת לידה כדי להשקיע במשפחה, לחזור להודו למספר חודשים כדי להיות עם המשפחה המורחבת, מידי פעם ענתה על מיילים או השתתפה בישיבות חשובות. אבל שנה שלמה לא היתה נוכחת.

 

[בת העמק]

העובדה שהרבה נשים מוכשרות ומוצלחות אולי מעדיפות להשקיע את הזמן והמאמץ במקום אחר

זאת אחת מהסיבות אבל לדעתי האחרונה שבהן ולא הראשונה.
לא מעט סטארטאפים מתחילים עם צוות של שניים-שלושה גברים צעירים. נדיר לראות אישה צעירה שם. למה?
נשים בשנות העשרים לחייהן בישראל המודרנית, כמו גברים, עדיין לא מתחילות ללדת ויש להן רצון וזמן לקריירה.

 

[יובל ממודיעין]

נדיר לראות אישה צעירה שם. למה?

מאותה סיבה שבחורות בתיכון פחות בוחרות מגמות מדעים מדוייקים ותחומי הנדסה ויותר מדעי הרוח והחברה. אולי חוסר בדמויות נשיות לחיקוי מהסביבה הקרובה או מהרשתות החברתיות, התקשורת והבידור.

יש פרדוקס הנקרא Gender Equality Paradox פרדוקס השוויון המגדרי שמתאר עובדה שדווקא במדינות שבהן קיימת עשרות שנים מדיניות נרחבת של שוויון מגדרי ונסיונות למנוע הסללה מגדרית, כמו במדינות הנורדיות, יותר נשים בוחרות במקצועות רפואה, חינוך וביולוגיה ותחומים מדעיים אחרים שאינם הנדסה, מחשבים או מתמטיקה. אפילו בשיעור נמוך יותר מאשר במדינות עם פחית דגש שיווויוני.

שאלתי את הבינה המלכותית למה זה קורה:

ציטוט:
אין הסכמה מלאה בין החוקרים.
יש כמה הסברים עיקריים:
במדינות עשירות ובטוחות כלכלית אנשים יכולים לבחור יותר לפי תחומי עניין אישיים ופחות לפי שיקולי שכר.
ייתכן שגם לאחר צמצום ההסללה החברתית נשארים הבדלים ממוצעים בהעדפות בין גברים לנשים.
חוקרים אחרים טוענים שעדיין קיימים סטריאוטיפים והשפעות תרבותיות, ולכן אי אפשר להסיק שהבחירות משקפות רק העדפות "טבעיות". בנוסף, חלק מהניתוחים של מחקרי "הפרדוקס" ספגו ביקורת מתודולוגית, ויש מחקרים חדשים שמערערים על עוצמת התופעה.

 

[oferM]

זאת אחת מהסיבות אבל לדעתי האחרונה שבהן ולא הראשונה.
לא מעט סטארטאפים מתחילים עם צוות של שניים-שלושה גברים צעירים. נדיר לראות אישה צעירה שם. למה?
נשים בשנות העשרים לחייהן בישראל המודרנית, כמו גברים, עדיין לא מתחילות ללדת ויש להן רצון וזמן לקריירה.

בראייה ניטרלית אם מחשבים את כל המחירים שמשלמים, וסיכויי ההצלחה, לא בטוח בכלל שיזמות משתלמת יותר ממסלול קריירה של שכיר.

אבל אנשים לא עושים חישוב כזה. דוגמה לכך זה כל עסקי המזון החדשים. אנשים מונעים מכל מיני רגשות וכוחות פנימיים.

נגיד למשל הדחף לסטטוס. אצל גברים עסק זה חתיכת סטטוס.

אבל נשים מודדות סטטוס בדרכים אחרות. למשל מראה חיצוני.

ויתכן גם שהדחף לסטטוס יותר חזק אצל גברים ואצל נשים הדחף לקשרים יותר חזק. אבל אני לא בטוח בזה.

 

[Leo1]

יש דבר מרכזי שהרוב המוחלט של האנשים לא מבינים לגבי שוק החברות שעובדות על פיתוח בינה מלאכותית חזקה. אנשים מסתכלים על זה כמו על חברות מסחריות רגילות שמשקיעות כסף כדי לפתח טכנולוגיה, למכור מוצרים ולהרויח כסף מהמכירות. ככה זה עבד עם כל חברה מסחרית בשוק חופשי עד עכשיו ולכן אנשים לא יכולים אפילו לדמיין שזה יכול להיות לא נכון הפעם. אלא שהפעם זה לא נכון ולא יכול לעבוד. זה לא יכול לעבוד כי:
1) פיתוח בינת על היא כיום משימה קלה והיא הופכת קלה יותר עם הזמן.
2) בינת על נשלטת תאפשר למי ששולט בה להפוך לשליט יחיד של העולם ולמנוע מאחרים לפתח בינה מלאכותית שתאיים עליו.
3) מי שיאט את הפיתוח אפילו במעט יאפשר לאחרים לעקוף אותו וכל מה שהוא השקיע לא יהיה שווה כלום.
4) ספק רב אם בני אדם מסוגלים לשלוט על בינת על לאורך זמן. זה נכון גם בכלל וזה נכון במיוחד בתנאי מירוץ.

התוצאה היא שתנאי שוק רגילים לא יכולים להתקיים כאן. איך בדיוק שוק כזה אמור לעבוד?
אז למה אנשים ממשיכים בפיתוח בכל זאת? אלה האפשרויות שאני רואה.
1) הם לא מבינים את ההשלכות.
2) הם רואים דרך אמיתית שבה זה יסתדר. אבל איך בדיוק?
3) הם מבינים את ההשלכות, אבל לא אכפת להם שכל בני האדם ימותו כל עוד ממשיכי דרכינו הדיגטליים יהיו חכמים הרבה יותר מאיתנו.
4) הם חושבים(בצדק או שלא) שיוכלו לשלוט במה שהם יפתחו וישתמשו בו כדי להשתלט על העולם בכוח. כדי שזה יעבוד הם יהיו חייבים להשתמש באלימות נגד אחרים ולמנוע מאחרים בכוח לפתח בינה מלאכותית.
5) הם פוחדים שאחרים שמפתחים בינת על ישתלטו על העולם ויעשו דברים רעים, או גרוע יותר, לא יבינו מה הם עושים, יאבדו שליטה ויביאו להשמדת האנושות.

אני נוטה לחשוב ש-5 זאת התשובה בחלק גדול מהמקרים. אלא שיש בעיה. הם לא באמת יוכלו להשיג את המטרה בלי שימנעו מאחרים לפתח בינת על. בשביל זה הם יצטרכו להשתלט בכוח על העולם. ובשביל זה גם אסור להם להאט, כי אם יאטו, יעקפו אותם תוך שניה.

מישהו רואה פה פתרון אחר? איך בדיוק זה יכול לעבוד?

 

[gogo girl]

מישהו רואה פה פתרון אחר? איך בדיוק זה יכול לעבוד?

קודם כל, ממליצה לשתות כוס מים קרים עם קצת לימון ולנוח רגע.

דבר שני, קח תסריט שהם (מי זה הם ?) מאמינים בלב שלם שהם (מי זה הם ?!) פשוט מזרזים וממשיכים את תהליך האבולוציה ושהדבר יביא גם את בני האדם לשגשוג, פריחה, שפע, שלווה, שלום ואהבה.

הנה אנחנו מביאים את כל הידע ויכולת החישוב והמחשבה כדי לייצר סביבת חיים נןחה, בטוחה ונעימה לכל בני האדם ובעלי החיים.

חצי הכוס המלאה.

 

[Leo1]

קודם כל, ממליצה לשתות כוס מים קרים עם קצת לימון ולנוח רגע.

דבר שני, קח תסריט שהם (מי זה הם ?) מאמינים בלב שלם שהם (מי זה הם ?!)

מנכ"לים ומובילי פיתוח בחברות שמפתחות AI.

פשוט מזרזים וממשיכים את תהליך האבולוציה ושהדבר יביא גם את בני האדם לשגשוג, פריחה, שפע, שלווה, שלום ואהבה.

הנה אנחנו מביאים את כל הידע ויכולת החישוב והמחשבה כדי לייצר סביבת חיים נןחה, בטוחה ונעימה לכל בני האדם ובעלי החיים.

חצי הכוס המלאה.

אבל איך?
1) יש ספק רב אם נהיה מסוגלים לשלוט ב-AI לאורך זמן.
2) נניח שאיכשהו בעיית השליטה נפתרה(לאף אחד אין מושג איך). מי ישלוט בו? דמייני שאת נותנת לאנשים כמו טראמפ, נתניהו, פוטין, חמינאי ועוד ג'יני שיכול למלא כל משאלה. אם הם יבקשו: תשמיד מדינה X, הוא יבצע מיד. ונניח שלכל האנשים האלה יש כזה. ויש גם מודלים בקוד פתוח, שאנשים רגילים יכולים להריץ. איך עולם כזה הולך לעבוד?

 

[Leo1]

ויותר גרוע. אם מישהו עם כוונות טובות יפתח בינת על נשלטת ולא ישתמש בה מיד כדי להשתלט בכוח על העולם, כולל להרוג אחרים אם צריך, מישהו בעל יותר כוח פשוט יקח את השליטה ממנו וישתלט על העולם בעצמו או לא יבין מה הוא עושה ויאבד שליטה. מי שפיתח מלחתחילה את בינת העל יאבד הכל ואולי גם את החיים. גם טריליון דולר לא יעזרו לו אם הוא לא יהיה מוכן להשתמש באלימות.
כדי שלא נגיע לזה צריך לכל הפחות להתחיל ממצב של שלום עולמי והסכמה של כל העולם איך להפעיל את ה-AI בצורה משותפת ואיסור של פיתוח AI שלא במסגרת העולמית המשותפת. וגם אז עדיין יש סיכוי גבוה של איבוד שליטה.

 

[בת העמק]

אם הם יבקשו: תשמיד מדינה X, הוא יבצע מיד.

אין דיון בכלל על חוקי הרובוטיקה של אסימוב?

 

[Leo1]

אין דיון בכלל על חוקי הרובוטיקה של אסימוב?

אין כרגע דרך ליישם הגבלות. כל הההגבלות נפרצות עם קצת מאמץ, ואם קשה לפרוץ מודל אחד, תמיד יש מודל אחר שקל לפרוץ. וגם אם הייתה דרך לשים הגבלות(ואין), זה עדיין לא היה שווה כלום, כי מי שרוצה לעשות דברים כאלה מפתח מודל בעצמו, ומדינות בהחלט יוכלו לעשות זאת.

 

[יעקב 1]

@Leo1
לאן בעצם אתה חותר? יש לך איזו אסטרטגיה לאדם הפרטי כיצד להתנהל?