رباتها در زمینه های زیادی وارد زندگی بشر شده اند . به تازگی چهره هایی شبیه چهره های انسانی برای آنها طراحی شده است . فکر میکنم روزی برسه که از چهره انسانی چند تا ربات داشته باشیم که تشخیص انسان بودن یا ربات بودن آن سخت خواهد شد .
1 پسندیده
با رفع بعضی از محدودیتها بله میتونن جای آدمها رو بگیرن و احتمالا کاملا برای نسل بشر هم خطرساز خواهند بود.
به نظرم الان دو محدودیت بزرگ برای اینکار وجود داره که رفعش نیاز به تحول بنیادی داره:
-
محدودیت انرژی: دقیقا مثل ماشین، ربات نیاز داره برای فعالیت فیزیکی و فعالیت محاسباتی منبع انرژی داشته باشه. علاوه بر اون این روش تامین باید به شکلی مناسب از نظر سایز باشه. به نظرم این احتمالا با ایده‌هایی در زمینه انرژیهای نو و پیشرفت تکنولوژی باتری، رفع خواهد شد ولی الان بسیار بعیده که یک ربات معقول متحرک بدون نیاز به شارژ مداوم ساخته بشه. اگر این اتفاق نیوفته، کمبود انرژی نقطه ضعف بزرگ رباتها در مقابل انسان خواهد بود و میتونه در تقابل با انسان بر علیه‌شون به کار گرفته بشه.
-
محدودیت توان محاسباتی مختص به ربات: درسته الان هوش مصنوعی پیشرفت خوبی انجام داده ولی همین الان یه مدل هوش معقول برای محاسبات نیاز به سرورهای عظیم داره. تازه فرض بر اینه که یادگیری قبلا انجام شده. این ضعف به نظرم از ضعف انرژی بسیار قویتره و البته به اون هم مرتبطه چون تامین انرژی لازم برای محاسبات هم بسیار سخته (میتونید به سطح انرژی مصرفی برای محاسبات و یادگیری LLM نگاه کنید تا اهمیت مسئله رو درک کنید). امیدهای اولیه به کوچکتر شدن چیپهای محاسباتی الان دیگه معقول نیست چون اندازه الان این چیپها در سطح کوانتومیه و وارد مسائل بسیار سخت مرتبط با اون شده. به نظرم ترکیبی از طراحی اختصاصی آنالوگ (مدارهایی که صرفا برای هوش طراحی میشن و نه برای انجام همه کارها) با پیشرفت در مدلسازی، میتونه در نهایت این مسئله رو به شکل قابل قبولی حل کنه.
چرا رباتها برای انسان خطرناکن: در مرحله اول به همون دلیل که اسلحه خطرناکه. رباتها احتمالا ابزار قدرت و تسلط قدرتمندان رو بسیار وسیعتر میکنن و چیزی شبیه به داستان ۱۹۸۴ خیلی دور از ذهن نیست ولی یه نکته بسیار مهم وجود داره و اون اینه که چون الزام به یادگیری مداوم در فرآیندهای رباتیک در دنیای بیرون باید وجود داشته باشه، احتمالا در طولانی‌مدت رباتیک از دست انسان خارج میشه و میتونه خطر واقعی خودش رو نشون بده. میتونید به مباحث agent-based در هوش نگاه کنید تا الزام یادگیری و البته رفتار غیر قابل کنترل رو تا حدی درک کنید.
2 پسندیده
سلام یوسف عزیز. ممنون از پاسختون . بله درسته مخصوصا در بحث اسلحه اگر انسانها نتونند رباتها را کنترل کنند خطر جدی بشر را تهدید خواهد کرد.
1 پسندیده
یوسف این دوتا موردی که گفتی خیلی جالب بودن، به عبارتی نقص فعلی هوش مصنوعی، جایی که میتونیم بهشون غلبه پیدا کنیم!
اما مضمون پیامت برای من این واقعیت رو هم داشت که میشه این دو عیب رو برطرف کرد اما برام سوال شد که تو فکر میکنی خود هوش مصنوعی میتونه این دو چرخه، تضمین دسترسی به انرژی و غلبه بر محدودیت توان محاسباتی رو تحت کنترل خودش دربیاره؟ یا شفاف‌تر بخوام بگم حدس میزنی خود هوش مصنوعی و رباتها، از مرحله‌ای به بعد میتونن برای این دو مشکل خودشون چاره اندیشی کنن؟ و این نقاط ضعفشون در مقابل انسان رو پوشش بدن؟ چنین توانایی برای رباتها می‌بینی که بی‌نیاز از انسانها بتونن به حرکت خودشون ادامه بدن؟
2 پسندیده
به نظر من ربات هایی که برنامه نویسی شده باشند که یک کار مشخص را انجام دهند خیر خطرناک نیستند ولی ربات هایی با خلاقیت (هوش مصنوعی) بله خطرناک هستند
1 پسندیده
به احتمال زیاد. دلیلش هم اینه که رباتیک همین الان هم در صنعت که به این مورد می‌پردازه، کاملا نفوذ کرده. در واقع فکر کنم روند این اتفاق قبل از تعارض احتمالی رخ میده. توان تحقیقات هم در کل نکته چندانی در خودش نداره (شاید باورش سخت باشه ولی بسیار از تحقیقات مهم در دنیا، اساس سعی و خطاست که رباتها بهتر میتونن انجام بدن!)
ممنون از پاسختون. درسته هر علم یا تکنولوژی هم جنبه مثبت داره هم منفی .