خطر ایجاد کارخانه تولید مقاله با هوش مصنوعی!
به گزارش لینک بگیر، یک پژوهشگر مطالعات علم و فناوری با تشریح اصول و ضوابط جهانی استفاده از هوش مصنوعی در تولیدات علمی اظهار داشت: سوگیری و تبعیض، عدم شفافیت و تصاویر جعلی برخی نگرانی ها در این حوزه می باشد.
به گزارش لینک بگیر به نقل از مهر، دکتر زهره زاهدی؛ عضو هیات علمی و پژوهشگر گروه علم اطلاعات و دانش شناسی مرکز مطالعات علم و فناوری اطلاعات دانشگاه خلیج فارس و دانشگاه لایدن با اشاره به جوایز نوبل فیزیک و شیمی سال جاری اظهار داشت: اهدای جایزه نوبل شیمی به پیش بینی ساختار پروتئین ها با بهره گیری از هوش مصنوعی و نوبل فیزیک به یادگیری ماشین و شبکه های عصبی اهمیت استفاده از هوش مصنوعی را در پژوهش های علمی جدید نشان میدهد.
وی اشاره کرد: در سالهای اخیر استفاده از هوش مصنوعی در انتشارات علمی روندی روبه رشد داشته و در عرصه علوم کامپیوتر، پزشکی و زیست شناسی از هوش مصنوعی بیشتر استفاده شده است. ۶۴ درصد از محققان حوزه علوم کامپیوتر از ۲۰۰۰ تا ۲۰۲۱ از هوش مصنوعی در انتشارات خود استفاده کردند.
زاهدی با اشاره به نظرسنجی «نیچر» از ۱۶۰۰ پژوهشگر درباره ی کاربرد هوش مصنوعی در پژوهش اظهار داشت: در این نظرسنجی بالاتر از ۵۰ درصد از پاسخگویان به اهمیت و ضرورت استفاده از هوش مصنوعی در تحقیقات اشاره کردند. نگرانی هایی نیز همچون خطرات انتشار اطلاعات نادرست، افزایش احتمال تقلب و دشورای در تشخیص آنها وجود داشت.
به گفته این پژوهشگر ابزارهایی مثل Elsevier Scopus AI، Clarivate Analytics AI Research Asistant، Semantic Scholar و Open Knowledge Map با ادغام ابزارهای هوش مصنوعی در پایگاه های اطلاعاتی به محققان کمک می کنند.
وی با اشاره به اینکه دستورالعمل های مختلفی در دنیا برای کاربرد هوش مصنوعی در پژوهش تدوین شده است، اظهار داشت: اصول مسئولانه الزویر، رویکرد اتحادیه اروپا و دستورالعمل یونسکو همچون دستورالعمل هایی هستند که جهت استفاده از هوش مصنوعی در آموزش، پژوهش و سیاستگذاری تدوین شده اند.
اصول الزویر در رابطه با بهره گیری از هوش مصنوعی
پژوهشگر دانشگاه لایدن در مورد اصول الزویر در ارتباط با هوش مصنوعی توضیح داد: الزویر در کنار ارائه Scopus AI، اصول ۵ گانه را تدوین کرده تا اطمینان ایجاد شود که هوش مصنوعی به گونه ای منصفانه، شفاف، پاسخگو، ایمن طراحی و به کار گرفته شده است.
وی افزود: این اصول شامل درنظر گرفتن تأثیر واقعی راهکار ها بر زندگی افراد، اقدام برای جلوگیری از ایجاد یا تقویت سوگیری های ناعادلانه، توضیح پذیری درباب راهکار ها، مسئولیت پذیری بوسیله نظارت انسانی و احترام به حریم خصوصی و حاکمیت قوی داده ها است.
زاهدی در مورد رویکرد اتحادیه اروپا در ارتباط با هوش مصنوعی در آموزش و پژوهش اظهار داشت: هدف اتحادیه اروپا در موضوع هوش مصنوعی برای تسریع در پذیرش مسئولانه و بموقع هوش مصنوعی است. این گزارش که در مارچ ۲۰۲۴ ارائه شده یک مشاوره علمی به کمیسیون اروپا است که شامل مباحث تقویت نوآوری و پیشرفت علمی در اتحادیه اروپا، تقویت موقعیت علمی و فناوری اتحادیه اروپا، پاسخ به چالش ها و ایجاد چارچوب های مسئولانه، پیشنهاد راهکارهای کاربردی برای ادغام هوش مصنوعی در علوم و ایجاد زیرساخت ها و آموزش برای پذیرش هوش مصنوعی است.
عضو هیات علمی مرکز مطالعات علم و فناوری اطلاعات دانشگاه خلیج فارس در مورد دستورالعمل یونسکو در استفاده از هوش مصنوعی در آموزش و پژوهش توضیح داد: این دستورالعمل به استفاده مسئولانه، اخلاقی و نوآورانه از هوش مصنوعی در پژوهش های علمی تاکید دارد و شامل ۱۰ اصل است.
وی با اشاره به مزایای استفاده از هوش مصنوعی در پژوهش اظهار داشت: هوش مصنوعی می تواند فرآیندهای ارزیابی، ویرایش و انتشار مقالات را سرعت بخشد و یکپارچگی آنها را بهبود دهد و این اجتناب ناپذیر است. می تواند بوسیله شناسایی سرقت ادبی، تضمین اصالت مقالات، کاهش زمان داوری و …سبب بهبود و ارتقای پروسه داوری مقالات علمی شود. همین طور با ابزارهایی می تواند تصاویر مقالات را بررسی نموده و از دستکاری تصاویر پیشگیری کند و در نهایت می تواند در تولید متون و تصاویر علمی به محققان کمک نماید.
به گفته زاهدی هوش مصنوعی در کنار مزایایی که دارد با چالش ها و مسائل اخلاقی هم روبرو است. مسائلی همچون سوگیری و تبعیض، عدم شفافیت، سوءاستفاده و تصاویر جعلی و نگرانی های اخلاقی و حقوقی دراین خصوص وجود دارد. همین طور کارخانه های تولید مقاله نیز یکی از چالش های جدی است.
وی پیشنهاداتی در حوزه پیش گیری از چالش های هوش مصنوعی ارائه کرد و اظهار داشت: مواردی مثل وضع دستورالعمل های اخلاقی توسط ناشران، توسعه ابزارهای پیشرفته برای شناسایی و بررسی محتوای جعلی همچون تصاویر، همکاری سازمان ها، ناشران و نهادهای علمی برای ایجاد استانداردهای یکپارچه در استفاده از هوش مصنوعی می تواند دراین خصوص کمک نماید.
این پژوهشگر اشاره کرد: تأسیس شورای ملی هوش مصنوعی (کارگروه هوش مصنوعی) نیز جهت تدوین سیاست هایی برای کاربرد هوش مصنوعی در انتشار علمی ضرورت دارد. در ایران سازمان ها و کارگروه هایی که در حوزه هوش مصنوعی راه اندازی شده اند می توانند دراین خصوص نقش آفرینی کنند. همین طور دراین خصوص نیازمند استفاده مسئولانه هستیم که سواد هوش مصنوعی و آگاهی از مسائل اخلاقی می تواند دراین خصوص کمک نماید.
منبع: linkbegir.ir
این مطلب را می پسندید؟
(0)
(0)
تازه ترین مطالب مرتبط
نظرات بینندگان در مورد این مطلب