هوش مصنوعی در معرض یادگیری خصمانه
تنها چیزی که در هوش مصنوعی چالش برانگیز شده که تحقیقات و بررسی روی آن ادامه دارد، بحث صحت‌سنجی آن است. ما باید سرویس‌های هوش مصنوعی را که به مردم خدمات می‌دهند صحت‌سنجی کنیم.
به گزارش مشرق، محمد خالویی استاد دانشکده کامپیوتر دانشگاه صنعتی امیرکبیر در رشته هوش مصنوعی درباره اینکه آیا ممکن است یک زمانی هوش مصنوعی جای استادان دانشگاهی را بگیرد و یا اینکه هوش مصنوعی تا چه میزان موجب بهینه شدن روش‌های یادگیری خواهد بود گفت: «با توجه به روند رو به رشدی که پیشرفت هوش مصنوعی در زمینه کارهای روزمره دارد این اتفاق دور از انتظار نیست. همین مدل‌های جدید مثل «چت جی بی تی» می‌تواند مثالی برای این مسأله باشد. این نوع تکنولوژی‌ها حتی موجب تنبل بار آمدن دانشجویان می‌شود، یعنی ممکن است خودشان درس نخوانند و از این بستر راحت استفاده کنند.»
ممکن است که با توسعه هوش مصنوعی دانشجویان کمتر سمت مطالعه کتاب‌ها بروند، این استاد دانشگاه به این موضوع تأکید کرد و گفت: «پیش‌تر دانشجویان برای تحقیقات خود کتاب می‌خواندند اما اکنون با استفاده از چت جی بی‌تی دیگر این کار را نمی‌کنند. در بسیاری از مواقع هم اگر شخص به موضوع مسلط نباشند همان جوابی را که چت جی بی‌تی به آنها داده، استفاده می‌کنند. این رویه می‌تواند استفاده از خلاقیت انسان را کم کند و برای نسل آینده خوب نیست. از سمت دیگر هوش مصنوعی می‌تواند حلال مشکلات عادی مردم باشد، مثلاً برای یک سری از کارها شاید افراد نیاز به کمک شخص دیگری داشتند که این همراهی برای آنها هزینه داشته اما هوش مصنوعی می‌تواند به‌عنوان دستیار هوشمند در کنار افراد باشد و به آنها کمک کند.»
رشد هوش مصنوعی در حوزه‌های بین رشته‌ای
وی با بیان اینکه هوش مصنوعی می‌تواند یک دستیار اتوماتیک باشد، گفت: «با توجه به تکنیک‌های جدیدی که در پردازش صوت و ترکیب آن با نثر صورت می‌گیرد می‌توان یک دستیار اتوماتیک داشت که صوت و نثر را درک می‌کند و به شکل بازگوکننده به شما پاسخ دهد. فرض کنید شما متنی در اختیار دارید ولی در حال رانندگی قادر به خواندن آن نیستید. در اینجا هوش مصنوعی متن را برای شما می‌خواند. طی چند وقت اخیر تولید علم در فضای هوش و ترکیب آن در حوزه‌های بین رشته‌ای از پزشکی گرفته تا صنعت، پیشرفت‌های زیادی داشته و در ماه‌های آینده این پیشرفت خیلی بیشتر خواهد شد.»
لزوم صحت سنجی داده‌های سرویس‌های هوش مصنوعی
هرآنچه توسط دست انسان خلق می‌شود با چالش‌هایی رو به رو است، خالویی به چالش‌های هوش مصنوعی اشاره کرد و گفت: «تنها چیزی که در هوش مصنوعی چالش برانگیز شده که تحقیقات و بررسی روی آن ادامه دارد، بحث صحت‌سنجی آن است. ما باید سرویس‌های هوش مصنوعی را که به مردم خدمات می‌دهند صحت‌سنجی کنیم. یعنی ممکن است که اطلاعات اشتباه به کاربر بدهد مثلاً اگر یک پزشک از امکانات هوش مصنوعی به‌عنوان یک گزینه کمکی استفاده می‌کند تا بداند آیا به‌عنوان مثال نظر هوش مصنوعی به نظر او چقدر نزدیک است باید این را هم در نظر بگیرد که ممکن است هوش مصنوعی نیز دچار اشتباه شود زیرا علم هوش مصنوعی آنقدر کامل نشده تا پاسخ دقیقی بدهد و همیشه باید یک درصد خطا را هم در نظر گرفت.»
وی ادامه داد: «در این میان یک سری مباحث مهم دیگر در زمینه هوش مصنوعی وجود دارد؛ یکی از حیطه‌های تحقیقات من بحث «روبات‌نِس» است؛ تعبیر روبات‌نس یعنی چقدر ما می‌توانیم به این سیستم‌ها اعتماد کنیم. به‌عنوان مثال وقتی همین دستگاه‌های کنترل تردد در سازمان‌ها که ورود و خروج افراد را بر اساس چهره شناسایی می‌کند در نظر بگیرید، برخی از این سیستم‌ها براحتی دچار اشتباه می‌شوند. به‌عنوان مثال یک شخص برچسبی روی صورت می‌چسباند و با همین تغییر، دستگاه کنترل تردد، او را جای شخص دیگری تشخیص می‌دهد. این سیستم فریب می‌خورد پس چالش مهم آن این است که به سادگی دچار خطا می‌شود. اگر کسی بخواهد خصمانه وارد این فضا شود ممکن است که دست به این نوع کارها هم بزند و اصطلاحاً به آن یادگیری خصمانه می‌گویند.»
وی در پاسخ به این سؤال که چه جاهایی هوش مصنوعی علیه علم برخورد می‌کند؟ گفت: «زمانی هوش مصنوعی می‌تواند علیه علم شود که خرافات بگوید به‌عنوان مثال، از هوش مصنوعی می‌پرسید دو دوتا چند می‌شود و او با کلی دلیل تلاش می‌کند به شما بگوید که دو دوتا چهار نمی‌شود و جواب آن پنج است. گرچه ما می‌دانیم پاسخ درست چهار است اما هوش مصنوعی تلاش می‌کند ثابت کند که پاسخ پنج می‌شود. حال این مورد را در یک مصداق پیچیده‌تر و بزرگ‌تر در نظر بگیرید.
شما سؤالی از هوش مصنوعی می‌پرسید و پاسخی را طی چند صفحه به شما می‌دهد و این پاسخ‌ها از کاربر به رئیس او، از رئیس او به مقام بالاتر دست به دست می‌شود و این پاسخ اشتباه می‌چرخد که می‌تواند بعداً مشکل ساز خواهد بود.»
وی در پاسخ به این سؤال که با توسعه آموزش هوش مصنوعی در دانشگاه‌ها، استادان ما چقدر توانایی باز آموزی با شیوه هوش مصنوعی را دارند، نیز گفت: «در رشته‌های کامپیوتر معمولاً استادان به روز هستند اما در رشته‌های دیگر باید گفت، حسنی که هوش مصنوعی برای استادان دارد این است که به آنها در امر آموزش کمک می‌کند و همچنین ارزان قیمت است.»
نقش هوش مصنوعی در حوزه‌های ترکیبی بسیار حائز اهمیت است، دکتر خالویی به این موضوع اشاره کرد و گفت: «هوش مصنوعی حتی در بحث‌های ترکیبی بخوبی عمل کرده است. مثلاً الگوریتم‌های حل مسأله در هوش مصنوعی به حوزه‌های گوناگون از جمله مهندسی برق، صنعت و... کمک کرده است. نکته دیگر این است که برخی مواقع از یک سری استادان معروف شاید حتی هیچ ویدیویی وجود نداشته باشد و فقط صدا باشد، اما با تکنولوژی هوش مصنوعی می‌توان از آن یک استاد مجازی ساخت که نمونه‌های آن را در گزارشگران و گویندگان هوش مصنوعی دیده‌ایم. این شیوه برای کسانی که نیاز به آموزش چهره به چهره دارند بسیار مؤثر است.»
استاد دانشکده کامپیوتر دانشگاه صنعتی امیرکبیر درباره کاربردهای دیگر هوش مصنوعی بیان کرد: «این شیوه حتی برای کودکان هم بسیار کاربرد دارد که در قالب انیمیشن ساخته می‌شود یعنی شما تصویر می‌دهید و آن هوش مصنوعی مطابق متنی که شما دارید یک ویدیو تولید می‌کند. به طور کلی این کار به خلاقیت فردی بستگی دارد که از هوش مصنوعی استفاده می‌کند.
هر بعد از هوش مصنوعی مؤثر است اما مهم این است که ملاحظات لازم را داشته باشد اما به‌دلیل اینکه در ایران بیشتر برای دانشگاهیان است یک مقدار محدودیت‌های سخت افزاری در دانشگاه‌ها برای ارائه خدمات توسط هوش مصنوعی وجود دارد. مثلاً برنامه‌هایی مانند چت جی بی‌تی غالباً از سوی شرکت‌های بزرگ مانند مایکروسافت گرفته تا گوگل مورد حمایت و سرمایه‌گذاری قرار گرفته است.
اما در ایران که با ریال هم کار می‌کنند شاید محدودیت‌های زیادی برای کار کردن روی این موضوع وجود داشته باشد و شاید یک دانشگاه کارگاه مناسبی نداشته باشد تا تمام دانشجویان خود را پوشش دهد پس لازم است که شرکت‌های دیگر هم کمک کنند.»
شروع هوش مصنوعی و محل اتصال آن از دانشگاه با سایر حوزه‌ها است
خالویی در این باره گفت: «نقطه شروع هوش مصنوعی از دانشگاه‌ها است اما از آنجا که دانشگاه محدودیت منابع دارد، شرکت‌ها وارد کار می‌شوند. شرکت‌ها هم در این زمینه سرمایه‌گذاری می‌کنند مانند همراه اول که در این زمینه فعال است. قاعدتاً ذهن جوانان فعال‌تر است و آنها می‌توانند با تعامل استادان در این زمینه کار کنند. ولی نکته آن این است که تعاملات یک طرفه بوده و عموماً از سوی دانشگاه رخ می‌دهد، به تعبیر دیگر بسیاری از این سرویس‌های موجود فقط به خاطر منابع سخت افزاری و منابع داده‌ای بسیار خوب است.»
هوش مصنوعی در کشور ما با توجه به نیاز جلو رفته است
استاد دانشکده کامپیوتر دانشگاه صنعتی امیر کبیر در پاسخ به این سؤال که در حال حاضر کدام حوزه و سازمان در زمینه هوش مصنوعی خیلی خوب عمل کرده‌اند، با بیان اینکه خیلی نمی‌توان گفت این حوزه به لحاظ پژوهشی عالی است ولی معمولاً سازمان‌ها موازی باهم پیش می‌روند. اما به لحاظ پیشرفت علمی باید این‌طور نگاه کرد که با توجه به زیر ساخت منابع و مشکلاتی که در اختیار داریم سرعت پیشرفت چگونه است، بیان کرد: «بنابراین، سرعت پیشرفت به میزان منابع و پیچیده‌تر بودن آن هدف بستگی دارد. هوش مصنوعی در کشور ما با توجه به نیاز جلو رفته است. اما برای پیشرفت، اگر مانند امریکا آن را ایالتی می‌کردیم خوب بود مثلاً جنوب کشور را برای حوزه خاصی در هوش مصنوعی دسته‌بندی می‌کردیم یا شمال کشور برای حوزه دیگری از هوش مصنوعی بود که البته باید این بخش‌بندی‌ها متناسب امکانات و شرایط استان‌ها باشد.»
وی در پاسخ به این سؤال که چقدر زمان داریم تا به وضعیت مطلوبی از هوش مصنوعی در کشور برسیم، گفت: «بستگی به این دارد که منابع تخصیص یافته به هوش مصنوعی چه میزان باشد، اگر برای آن بخوبی سرمایه‌گذاری کنند نیروهای نخبه‌ها حوزه هوش مصنوعی در کشور خواهند ماند و در این بخش فعالیت خواهند کرد. اما اگر سرمایه‌گذاری نشود ممکن است افراد متخصص بیشتری از کشور بروند.