گفتگو | آموزش در چنگال هوش مصنوعی و تاثیرپذیری از چت GPT

گروه دانشگاه خبرگزاری تسنیم- زینب امیدی: در عصر دیجیتال، هوش مصنوعی نه تنها به عنوان یک فناوری پیشرو بلکه به عنوان ابزاری برای تغییرات عمیق اجتماعی، فرهنگی و اقتصادی ظهور کرده است. با وجود پتانسیل‌های فراوان، تطبیق این فناوری با فرهنگ‌ها و ارزش‌های محلی به یک چالش عمده تبدیل شده است. در ایران، عدم وجود چشم‌انداز واضح و مناسب برای بکارگیری هوش مصنوعی، موجب شده تا این فناوری نتواند به خوبی با زمینه‌های فرهنگی و اجتماعی کشور تطبیق یابد.

تناقض میان فرهنگ و فناوری / چشم‌انداز هوش مصنوعی در ایران

بررسی ضرورت‌ها و ملاحظات فرهنگی در استفاده از هوش مصنوعی پرداختن به نقاط ضعف و قوت سندهای ملی موجود از نکات مهم این حوزه است. همچنین نقش هوش مصنوعی در حل معضلات اجتماعی، چالش‌های موجود در بخش آموزش و تاثیرات آن بر رفتار و خودآگاهی انسان باید مورد تحلیل قرار می‌گیرد. هدف نهایی، دستیابی به راهبردهایی است که نه فقط برای پیشرفت تکنولوژیکی، بلکه برای تقویت هویت فرهنگی و اجتماعی کشورمان کارآمد باشد.

در دهه‌های اخیر، پیشرفت چشمگیر در حوزه هوش مصنوعی نه تنها فرصت‌های جدیدی را برای نوآوری و رشد اقتصادی به ارمغان آورده، بلکه چالش‌های پیچیده‌ای را نیز پدید آورده است. همانطور که کشورها به سوی دیجیتال‌سازی کامل حرکت می‌کنند، نحوه ترکیب این فناوری‌های نوین با ارزش‌ها و فرهنگ‌های محلی به موضوعی حیاتی تبدیل شده است، چرا که تعارض بین فناوری و فرهنگ می‌تواند موانعی جدی بر سر راه توسعه پایدار ایجاد کند.

ایران به عنوان یکی از کشورهای در حال توسعه که منابع انسانی و فکری قابل توجهی دارد، از این قاعده مستثنی نیست. اما، نبود یک چارچوب ملی جامع و روشن که بتواند بهره‌برداری از فناوری‌های هوش مصنوعی را با زمینه‌های فرهنگی و اجتماعی کشور همسو کند، به یکی از دغدغه‌های اصلی صاحب‌نظران و سیاست‌گذاران تبدیل شده است. این گزارش تلاش می‌کند تا با تحلیل وضعیت فعلی و مرور تجربیات کشورهای پیشرو، به سوال‌های کلیدی پیرامون شیوه‌های کارآمدتر استفاده از هوش مصنوعی پاسخ دهد.

یکی از بخش‌های کلیدی این مساله، بررسی نقش هوش مصنوعی در حل معضلات اجتماعی است. فناوری هوش مصنوعی می‌تواند در حوزه‌هایی مانند بهداشت، آموزش، کاهش فقر و بهبود خدمات عمومی نقش بسزایی ایفا کند. با این حال، برای بهره‌برداری موثر از این ظرفیت‌ها، نیاز به برنامه‌ریزی دقیق و ایجاد زیرساخت‌های مناسبی داریم که بتواند فرهنگ و ارزش‌های ملی را در مرکز توجه قرار دهد.

علاوه بر این، بخش آموزش از جمله زمینه‌هایی است که می‌تواند به طور مثبتی از هوش مصنوعی بهره‌مند شود، اما استفاده نادرست از آن نیز می‌تواند به چالش‌های جدی مانند کاهش نقش معلمان و افت کیفیت آموزشی منجر شود. ایجاد تعادل مناسب بین استفاده از فناوری به عنوان ابزار کمکی و حفظ مولفه‌های انسانی در فرآیند آموزش، از جمله مسائل مورد بحث در این گزارش است.

در نهایت، با توجه به احتمال افزایش تأثیرات تکنولوژیکی بر رفتار و تفکر انسان‌ها و مخاطراتی که از نظر اجتماعی و فرهنگی به همراه دارد، این گزارش به بررسی راهکارهایی برای حفظ حریم خصوصی، ارتقاء مهندسی فرهنگی و تعریف دقیق‌تر از استفاده‌های مسئولانه از هوش مصنوعی در جامعه ایران می‌پردازد. هدف این است که با رویکردی جامع و همه‌جانبه، مسیر ایران به سوی پذیرش و استفاده بهینه از هوش مصنوعی هموارتر شود، در حالی که ارزش‌ها و هویت ملی حفظ و تقویت گردد.

ما برای بررسی بیشتر بررسی فلسفه هوش مصنوعی و نحوه استفاده آن در کشور به سراغ محمدهادی زاهدی مدیرکل فناوری اطلاعات و امنیت فضای مجازی وزارت علوم و رئیس انجمن هوش مصنوعی رفتیم که در ادامه بخش اول این گفتگو را می‌خوانید.

تسنیم: چگونه می‌توانیم هوش مصنوعی را به گونه‌ای تطبیق دهیم که با فرهنگ و ارزش‌های ملی و دینی سازگار باشد؟ چه سوالات بنیادی باید مطرح شوند تا بتوانیم هدف‌گذاری و کاربردهای هوش مصنوعی را به شکل موثرتری در کشور تعیین کنیم؟

بنیان هوش مصنوعی بر پایه‌های فرهنگی / لزوم تعریف اهداف برای هوش مصنوعی در ایران

زاهدی: در حوزه هوش مصنوعی سند ملی مصوب داریم، اما به دلیل پراکندگی و تنوع اهداف و چشم اندازها و از سویی نبود نگاشت نهادی و پیش بینی دقیق منابع اعتباری به نظر نمی‌رسد که بتوان شاهد تحقق شاخص‌های تبیین شده و امیدوار به رسیدن به یک نقطه مشخص باشیم. هوش مصنوعی برای هر کشوری باید بر پایه‌های فرهنگی و باورهای ملی بنیان شود. متأسفانه، ما ابتدا به دنبال کسب و پذیرش فناوری هستیم و سپس تلاش می‌کنیم تا به عنوان یک ضمیمه یا پیوست، ملاحظات فرهنگی را در آن لحاظ کنیم، در حالیکه بایستی ابتدا فرهنگ فناوری را طراحی و تبیین کرد و سپس به سراغ خود فناوری رفت. خواستگاه تحول در حوزه فناوری باید از حوزه‌های علوم انسانی و از جنس فرهنگی و اجتماعی باشد.

به عنوان مثال، کره جنوبی سال‌های قبل به این فهم رسید که برای موفقیت و نام آوری در عرصه فناوری و صنعت، نیازمند فرهنگ سازی است و در دانشگاه‌های علوم انسانی و مطالعات اجتماعی آن مفهوم و حوزه ای به نام فناوری فرهنگ (Cultural Technology) ایده پردازی و پیاده سازی شد. آن‌ها دریافتند برای اینکه در دنیا مطرح شوند باید پیام‌هایی از جنس جدیت و دقت، شفافیت و سلامت، صحت و کیفیت به دنیا مخابره کنند تا دنیا نسبت به محصولات کره، روی خوش نشان داده و درهای بازارهای اقتصادی به روی محصولات کره ای باز باشد، ابزار مخابره این پیام صنعت فیلم و سینمای کره شد که تاثیرات آن را در تغییر نگاه دنیا به مردم کره و محصولات ساخت کره تغییر داد.

ما باید برای تعریف حوزه‌های اولویت دار هوش مصنوعی در کشور مدام از خود بپرسیم که در چه زمینه‌هایی و برای چه منظوری می‌خواهیم از آن استفاده کنیم، چه چالش‌ها یا دغدغه‌هایی وجود دارد که بهره گیری از هوش مصنوعی می‌تواند کمک به حل آن کند و در گام بعدی و پس از درک مسائل، ترسیم و پیش بینی کنیم که چه نتیجه‌ای را انتظار داریم. این سوالات، در حقیقت نقاط مبهم تعیین حوزه‌های اولویت دار هوش مصنوعی در کشور ما هستند و در سند ملی نیز به آن‌ها واضح اشاره نشده است. به عقیده من، روح حاکم بر سند ما مشخص نیست. محققان ژاپنی بررسی کرده اند که تا ده سال آینده با بحران‌هایی از جنس افسردگی و پیری و انزوا و فردگرایی مواجه هستند و بنابراین تمرکز برنامه ریزی و اولویت‌های شان در استفاده از هوش مصنوعی بر مبنای ارائه خدمات و محصولاتی است که این بحران‌ها را به حداقل برساند، چراکه در این کشور کمتر با چالش‌هایی از جنسه بهره وری و بهینه سازی مواجه اند.

تسنیم: چگونه می‌توان از هوش مصنوعی در حل معضلات اجتماعی بهره برد؟ چه مراحلی باید برای توسعه نقشه راه هوش مصنوعی در حوزه‌های مختلف پیگیری کنیم؟

هوش مصنوعی، محرک یا ناجی معضلات اجتماعی؟

زاهدی: ما باید برای استفاده صحیح و هدفمند از دانش و فناوری هوش مصنوعی در تمامی حوزه‌ها مانند تاریخ و تمدن، پزشکی و سلامت، آموزش و مهارت، صنعت و کشاورزی و موضوعاتی از جنس فرهنگی و اجتماعی نقشه راه داشته باشیم. اما چون چشم‌انداز مشخصی نداریم و هدفگذاری های کلان و عام داشته ایم، هر کسی براساس برداشت خود کاری را آغاز کرده است، لیکن همگرایی لازم در بین بخش های مختلف مشاهده نمی شود. دنیا از هوش مصنوعی برای حل یا کاهش برخی معضلات اجتماعی کمک گرفته است، چالش هایی از جنس بیکاری، بی عدالتی، حقوق شهروندی، مفاسد اقتصادی، جرایم و موارد دیگر که می توان از این تجربیات جهانی برای حل مسائل ایده گرفت.

تسنیم: استفاده نادرست از هوش مصنوعی در حوزه آموزش کشور چه مشکلات و معضلاتی را ایجاد می‌کند؟ چه گام‌هایی باید برداشته شود تا هوش مصنوعی به عنوان یک مکمل کارآمد در آموزش به کار گرفته شود و نه به عنوان جایگزین؟

زاهدی: یکی از دستاوردهای هوش مصنوعی توسعه ابزارها و خدمات هوش مصنوعی است که بطور گسترده ای مورد استفاده یارگیرندگان (دانش آموز و دانشجو) هستند. اگر از این ابزارها به‌درستی استفاده شود، هم به استاد و هم به دانشجو در پیشبرد کارهای تحقیقاتی و ارتقای سطح مهارت و اثربخشی آموزش کمک خواهند کرد. اما اگر به‌درستی استفاده نشوند و از این ابزارها صرفا به‌عنوان مرجع پاسخ به سوالات استفاده شود، ولی کمکی به کنش هایی از جنس خلاقیت و نوآوری نشوند و موجب آسیب به عملکردهایی از نوع همفکری، تعاون، مشارکت، پرس و جو و کنکاش شوند آسیب‌های جدی به نظام آموزشی و ذینفعان خواهد زد. چرا که اکنون همین ابزارها مقاله و کتاب می‌نویسند، ارائه آماده می‌کنند، کدنویسی انجام داده و معادلات ریاضی پیچیده را حل می‌کنند.

به فلسفه و مبانی هوش مصنوعی کمتر پرداخته شده است

تا این لحظه به فلسفه و مبانی نظری هوش مصنوعی کمتر پرداخته شده است و نگاه صرفاً بهره‌برداری از این ابزارها، تکنیک‌ها، الگوریتم‌ها و الگوهاست. نباید فراموش کرد این انسان است که می‌تواند در شرایط خاص و با درک محیط اطرافش و دخیل کردن تجربیات و حتی احساسات تصمیمی اتخاذ کند.

یکی از چالش‌ها در کشورهایی که صرفا بهره بردار از فناوری هستند، کمرنگ شدن کارهای تیمی است، که مدارس و دانشگاه‌ها باید تمرکز ویژه ای بر این مساله داشته باشند. تفکر انتقادی و توانایی تحلیل و درک مسائل و بیان دیدگاه در مورد آن‌ها باید در افراد جامعه و بویژه جامعه دانش آموزی و دانشجویی تقویت شود. به یاد داشته باشیم که تحول دیجیتال به دنبال تغییر در نگرش‌ها و رویکردها است تا بتوانیم از ابزار فناوری برای انتقال بهتر مفاهیم و خلق یک تجربه شیرین یادگیری با بهره گیری از مفاهمی شخصی سازی و پروفایل سازی استفاده کنیم. اما در حال حاضر، نگاه جامعه به این حوزه فناوری، صرفا فنی است. در حالی‌که دنیا دقیقاً رویکرد متفاوتی دارد که لازمه آن کارهایی از نوع مهندسی فرهنگی و مهندسی اجتماعی است.

تسنیم: گذراندن آن دو واحد درسی هوش مصنوعی برای دانشجویان در این مسیر چقدر کمک دهنده است؟

نقشه راهی برای آینده / آموزش در چنگال هوش مصنوعی

زاهدی: گذراندن درس دو واحدی هوش مصنوعی آغاز خوبی برای ارتقا سطح سواد هوش مصنوعی جامعه است اما یقینا کافی نیست. معتقدم هوش مصنوعی بواسطه ماهیت چندوجهی‌اش، فراتر از یک رشته تحصیلی است و نمی‌توان آن را صرفاً به یک گرایش یا رشته دانشگاهی محدود کرد. فراموش نکنیم که اگر آخرین زیرساخت‌های پردازشی و ذخیره‌سازی هوش مصنوعی را در کشور داشته باشیم اما نیروی انسانی ماهر و متخصص را نداشته باشیم، مانند هواپیمای جنگی آخرین مدلی اما بدون خلبان و اسکادران است. لذا یکی از اولویت‌های کشور باید تربیت نیروی انسانی متخصص و ماهر باشد.

البته در صاحت موضوعات فلسفه هوش مصنوعی اساتید و صاحب‌نظران ما باید به این پرسش‌ها پاسخ دهند: آیا هوش مصنوعی در همه موارد و مواجهه با متغیرهای بیرونی هوشمندانه تر از انسان عمل می‌کند؟ آیا این ماشین می‌تواند به خودآگاهی کامل برسد؟ آیا هوش مصنوعی می‌تواند به سطحی از هوش انسانی دست پیدا کند که قابل جایگزینی با انسان شود؟ آیا از هوش مصنوعی می‌توان برای نظارت بر هوش مصنوعی استفاده کرد؟ آیا به نقطه‌ای خواهیم رسید که ماشین جایگزین انسان شود؟ اگر به این نقطه برسیم، نقش انسان چه خواهد شد؟ باید به این سوالات پرداخته شود و ماهیت این سوالات بیشتر نظری هستند تا کاربردی و فنی.

دوران جدید فناوری‌های دیجیتال تغییرات بسیاری را در رفتارهای اجتماعی و شخصی انسان‌ها ایجاد کرده است. به خصوص، جوانان و نوجوانان به سمت بازی‌های برخط، سکوهای دیجیتال و فعالیت‌های مجازی گرایش پیدا کرده‌اند، و این نگرانی وجود دارد که این رفتار به کاهش تعاملات فیزیکی و فعالیت‌های تیمی منجر شود و تبعاتی همچون کاهش مسئولیت‌پذیری و ضعیف شدن کار گروهی و ارتباطات اجتماعی را به دنبال داشته باشد.

تسنیم: چگونه می‌توانیم مهندسی فرهنگی و اجتماعی را در اولویت قرار دهیم تا نگاه صرفاً فنی به هوش مصنوعی کاهش یابد؟

آیا هوش مصنوعی قدرت تصمیم گیری از انسان را سلب خواهد کرد؟

زاهدی: یکی از چالش‌های مهم دیگر، تغییر در مفهوم داده و حریم خصوصی است. با ظهور اینترنت اشیا، بسیاری از اشیا پیرامونی مانند گوشی‌های هوشمند، حلقه‌های هوشمند، قفل‌های هوشمند، یخچال‌های هوشمند، فبلت‌ها و تبلت‌ها، ساعت‌های هوشمند، جاکلیدی‌های هوشمند، عینک‌های هوشمند و بسیاری اشیا دیگر اطلاعات حیاتی و شخصی از کاربران را جمع‌آوری می‌کنند. تحلیل این جریان داده پویا و مستمر و استخراج الگوی رفتاری هر فرد اگرچه می‌تواند در بسیاری از کاربردها به شخصی سازی کمک کند، اما استفاده از این داده‌های حیاتی و بعضا بدون آگاهی کاربر مخاطرات و تهدیدهایی برای آرامش و آسایش جامعه به همراه خواهد داشت که با تفکر توسعه فناوری در تضاد است؛ داده‌هایی مانند وضعیت سلامت، موقعیت مکانی، تماس ها و پیام ها، تعاملات اجتماعی در معرض خطرات امنیتی و نقض حریم خصوصی قرار دارند. بنابراین، حفاظت از حریم خصوصی و تنظیم‌گری در این حوزه ضروری است. باید علاوه بر تلاش برای حفظ و امنیت داده‌ها، بر رفتارها و تعاملات نیز نظارت داشت تا حریم خصوصی افراد تضمین شود.

به همین ترتیب، مشاهده می‌شود که علیرغم تغییر سبک زندگی‌ها متاثر از فناوری‌های نوین، الگویی برای جهت دهی این سبک زندگی طراحی و ارائه نشده است. تفکر و رفتار انسان‌ها به آرامی تحت تأثیر تلاقی دو فناوری هوش مصنوعی و اینترنت در حال تغییر است، بدون اینکه الگوی مشخصی برای مدیریت این تغییرات وجود داشته باشد.

در آینده ای نه چندان دور شاهد آن خواهیم بود که این فناوری‌ها به تغییر تفکر انسان‌ها منجر خواهند شد. تلفیق هوش مصنوعی و اینترنت می‌تواند منجر به روندی شود که در آن ابزارها و سیستم‌های هوشمند، قدرت تصمیم‌گیری را از انسان سلب کرده و آن‌ها را به فکر نکردن عادت بدهند. این استفاده جهت‌دار از فناوری می‌تواند مخرب و سمی باشد.

تسنیم: چگونه می‌توانیم به تاثیرات هوش مصنوعی بر خودآگاهی و توانایی تصمیم‌گیری مستقل بپردازیم؟

زاهدی: توسعه ابزارهایی همچون بات‌ها و دستیارهای هوشمند که بر پایه الگوهای زبانی بزرگ ایجاد شده اند و بصورت عمدتا رایگان و به عنوان یک سرویس عمومی هوش مصنوعی توسط شرکت‌های غول فناوری در اختیار جوامع قرار گرفته اند، تهدیدی جدی هستند در زمینه تحریف باورهای دینی و فرهنگ و آداب و رسوم ملی و هنجارهای اجتماعی. این ها چالش های توسعه فناوری هستند که قادر به تسلط بر قدرت تفکر و تصمیم انسان شوند؛ یعنی دقیقا نقطه‌ی تمایز انسان با سایر موجودات. اگر این روند به همین شکل ادامه پیدا کند، پیش‌بینی می‌شود که تا سال 2030 هوش مصنوعی به طور گسترده‌ای بر روی رفتار، فکر و باورهای جامعه بشری سلطه پیدا کند، و این آغاز شکل گیری نسل جدیدی از استعمار به نام استعمار فناوری است.

تأثیر فناوری‌های دیجیتال بر تعاملات اجتماعی

هوش مصنوعی یک حوزه دانشی مرزبندی شده نیست که بتوان برایش حد تعیین کرد و از همگرایی حوزه‌های مختلف شکل گرفته است، برای بررسی آن باید تمامی ابعاد فرهنگی، اجتماعی، سیاسی و اقتصادی را در نظر گرفت، چرا که اثرات مستقیمی بر روی همه این حوزه‌ها خواهد گذاشت. هوش مصنوعی یک پارادایم پویا و در حال تکامل است که نیازمند تغییرات بنیادین در نوع تصمیم گیری، در روش های کسب‌وکار و تعاملات اجتماعی است. معتقدم می توان دنیای معاصر را به دو بازه‌ی زمانی قبل و بعد از عصر هوش مصنوعی تقسیم کرد. هوش مصنوعی با همگرایی و تلاقی با فناوری اینترنت و در عصر تحول دیجیتال به تغییر سبک زندگی و کسب وکار منجر شده است و هرچه پیش می‌رویم، قدرت آن بیشتر می‌شود به شکلی که تاکنون هیچ فناوری دیگری همچون نانو، لیزر و... نتوانسته است چنین تغییرات شگرفی را رقم زند.

در عصر حاضر، ما مستلزم تغییر در نحوه تصمیم‌گیری، شیوه تفکر و نگرش‌هایمان به موضوعات و مسائل هستیم. در این عصر داده و اطلاعات، صاحب قدرت و مکنت هستند. هوش مصنوعی بدون داده مانند کارخانه‌ای بدون مواد اولیه است. یکی از مشکلات کشور این است که مجموعه داده‌ها و دادگان استاندارد محدودی برای انجام پژوهش‌های مطالعاتی است.

ادامه دار بودن رویه فعلی تا چهار سال آینده بحران و چالش جدی ایجاد خواهد کرد

باسیتی سواد و آگاهی عمومی از هوش مصنوعی و ابزارهای آن در جامعه ارتقا پیدا کند. الزاما هوش مصنوعی و ابزارهای آن از جمله چت بات یا ربات های گفتگوگر، اطلاعات صحیح را ارائه نمی دهند و چه بسا بسیاری از محتواهای تولید شده و پیام‌های رد و بدل شده، جهت دار و همراه با سوگیری باشند. چه بسا فردی از چت بات‌ها برای حل معضل تنهایی، مشاوره بگیرد و به جای تشویق به تشکیل خانواده یا پیوستن به کانون خانوادگی و آشنایان، به مسیرهای دیگری توصیه شود. لذا، میزان استنادپذیری و بی‌طرفی مشاوره‌هایی که هوش مصنوعی ارائه می‌کند از درجه اهمیت بالایی برخوردار است، زیرا هوش مصنوعی می‌تواند به همان میزان که مفید است، مضر و سمی باشد. اگر به فکر تولید الگوهای زبانی بزرگ و پیاده سازی ربات‌های هوشمند و گفتگوگر نباشیم و با حرکت در مسیر فعلی، تا چهار سال آینده با بحران‌ها و چالش‌های جدی روبه‌رو خواهیم شد.

تسنیم: چگونه از تاثیرات منفی بالقوه هوش مصنوعی بر فرهنگ و اجتماع پیشگیری کنیم؟

الگویی برای تصمیم‌گیری در نظام حکمرانی دیجیتال معرفی نشده / اینترنت اشیا و ظهور اینترنت رفتار

زاهدی: برای تصمیم‌گیری هوشمندانه در عصر هوش مصنوعی، پیش از هر چیزی باید در نوع تفکر و نگرش‌مان تغییر ایجاد کنیم. دو الگو اخیراً برای کمک به فرآیندهای تصمیم‌گیری ارائه شده است: الگو‌هایی بر اساس نظریه‌های شناختی که بر درک و تحلیل اطلاعات تاکید دارند و به اتخاذ تصمیمات منطقی کمک می‌کنند و الگو‌هایی مبتنی بر نظریه‌های رفتاری که تاثیرات اجتماعی و روان‌شناختی را در نظر می‌گیرند. با این حال، ما هنوز یک الگوی درست برای تصمیم‌گیری در نظام حکمرانی دیجیتال معرفی نشده است.

مسئله دیگری که مطرح است، پاسخ به این پرسش است که با فرض ماشینی و هوشمندشدن بسیاری از فرآیندها و جایگزینی انسان با ماشین، تکلیف کنش‌ها و واکنش‌های احساسی و رفتاری چه خواهد شد؟ آیا الگوهای رفتاری ماشین قابل تحلیل است؟ چند سال پیش پروژه‌ای برای تعریف و یادگیری زبان مکالمه بین ربات‌ها اجرا شد، بعد از مدتی مشاهده شد که ربات‌ها با خودآگاهی زبانی را برای گفتگو بین خود ابداع کردند که انسان از درک و فهم آن عاجز بود و دغدغه‌های جدی در بین توسعه دهندگان این پروژه ایجاد کرد تا جاییکه با افزایش شدت نگرانی ها، تداوم پروژه متوقف شد.