مخالفت کارشناسان امنیت سایبری با توقف توسعه هوش مصنوعی جدید
تاریخ انتشار: ۱۲ فروردین ۱۴۰۲ | کد خبر: ۳۷۴۳۶۰۵۰
به گزارش خبرگزاری صدا و سیما: هفته گذشته، گروهی از فعالان فناوری و متخصصان هوش مصنوعی ازجمله ایلان ماسک، با ارائه یک نامه سرگشاده خواستند تا توسعه سیستمهای هوش مصنوعی قدرتمندتر از GPT-۴ بهدلیل «خطرات آن برای جامعه و بشریت» به مدت شش ماه متوقف شود. هرچند توقف این روند میتواند به درک بهتر و تنظیم خطرات اجتماعی ایجادشده توسط هوش مصنوعی کمک کند، برخی افراد استدلال کردهاند که این تلاش توسط رقبای برخی رهبران این حوزه مانند OpenAI انجام شده است تا بتوانند در این فضا به رقابت بپردازند.
بیشتر بخوانید:
اخباری که در وبسایت منتشر نمیشوند!
تحلیلگر شرکت گارتنر در مصاحبهای با VentureBeat توضیح میدهد که «وقفه ششماهه درخواستی برای توقف آموزش مدلهای قدرتمندتر از GPT-۴ است. GPT-۵ بهزودی پس از GPT ۴.۵ منتشر خواهد شد که انتظار میرود به AGI (هوش عمومی مصنوعی) دست پیدا کند. هنگامی که AGI در دسترس قرار گیرد، احتمالاً برای ایجاد کنترلهای ایمنی که بهطور مؤثر از انسان در مقابل استفاده از این سیستمها محافظت میکند، خیلی دیر خواهد بود».
نظر کارشناسان امنیت سایبری درباره توقف توسعه هوش مصنوعی
با وجود نگرانیهایی که در مورد خطرات اجتماعی ناشی از هوش مصنوعی مولد وجود دارد، بسیاری از کارشناسان امنیت سایبری همچنین اشاره کردهاند که وقفه در توسعه هوش مصنوعی بههیچوجه کمککننده نخواهد بود. درعوض، آنها استدلال کردهاند که این تصمیم فرصت موقتی برای تیمهای امنیتی ایجاد خواهد کرد تا بتوانند روشهای دفاعی خود را توسعه دهند.
یکی از قانعکنندهترین استدلالهایی که علیه توقف تحقیقات هوش مصنوعی ارائه شده است، ادعا میکند که این تصمیم فقط بر فروشندگان تأثیرگذار خواهد بود و نه عوامل تهدید. طبق این استدلال، مجرمان سایبری همچنان توانایی توسعه حملات جدید و همچنین تقویت تکنیکهای تهاجمی خود را خواهند داشت.
«استیو گروبمن»، مدیر ارشد فناوری McAfee، به VentureBeat گفت: «توقف توسعه نسل بعدی هوش مصنوعی مانع حرکت این فناوری به سمتهای خطرناک نخواهد شد. با پیشرفت فناوری، وجود سازمانها و شرکتهایی با آیین و استانداردهایی که به پیشرفت فناوری ادامه میدهند، برای اطمینان از اینکه از فناوری به مسئولانهترین شکل ممکن استفاده میشود، ضروری است.»
درواقع کارشناسان این صنعت پیشنهاد میکنند که بهجای توقف توسعه مدلهای جدید، تمرکز روی نحوه مدیریت خطرات مرتبط با استفاده مخرب از هوش مصنوعی مولد و ترغیب فروشندگان هوش مصنوعی به شفافیت بیشتر میتواند به کاهش خطرات مربوط به این زمینه کمک بیشتری کند
منبع: خبرگزاری صدا و سیما
کلیدواژه: هوش مصنوعی هوش مصنوعی توقف توسعه
درخواست حذف خبر:
«خبربان» یک خبرخوان هوشمند و خودکار است و این خبر را بهطور اتوماتیک از وبسایت www.iribnews.ir دریافت کردهاست، لذا منبع این خبر، وبسایت «خبرگزاری صدا و سیما» بوده و سایت «خبربان» مسئولیتی در قبال محتوای آن ندارد. چنانچه درخواست حذف این خبر را دارید، کد ۳۷۴۳۶۰۵۰ را به همراه موضوع به شماره ۱۰۰۰۱۵۷۰ پیامک فرمایید. لطفاً در صورتیکه در مورد این خبر، نظر یا سئوالی دارید، با منبع خبر (اینجا) ارتباط برقرار نمایید.
با استناد به ماده ۷۴ قانون تجارت الکترونیک مصوب ۱۳۸۲/۱۰/۱۷ مجلس شورای اسلامی و با عنایت به اینکه سایت «خبربان» مصداق بستر مبادلات الکترونیکی متنی، صوتی و تصویر است، مسئولیت نقض حقوق تصریح شده مولفان در قانون فوق از قبیل تکثیر، اجرا و توزیع و یا هر گونه محتوی خلاف قوانین کشور ایران بر عهده منبع خبر و کاربران است.
خبر بعدی:
در سالهای اخیر فعالیتهای پژوهشی با هدف کمک به امنیت غذایی کشور بوده است
ایسنا/خراسان رضوی رئیس پژوهشکده علوم و فناوری مواد غذایی جهاددانشگاهی خراسان رضوی گفت: صنعت غذایی کشور عمدتا وارداتی است و از دانش فنی و تکنولوژی داخلی در حد مطلوب استفاده نمیشود؛ این در حالی است که کشور ما توان داخلی خوبی در حوزه صنعت غذا دارد .
فرشته حسینی در گفتوگو با ایسنا با اشاره به اینکه فردا، ۱۳ اردیبهشت نخستین رویداد ملی فبینفود با همکاری جهاددانشگاهی خراسان رضوی و معاونت علمی ریاستجمهوری در مشهد برگزار میشود، اظهار کرد: هدف از برگزاری این رویداد ارتقای سطح فناوری در حوزه صنایع غذایی کشور است. با توجه به اینکه رویکرد جهاد دانشگاهی توسعه پژوهشهای فناوریمحور کاربردی است و با هدف کمک کردن به حل مسائل کلان کشور گام برمیدارد، پژوهشکده علوم و فناوری مواد غذایی جهاد دانشگاهی خراسان رضوی کار در حوزه امنیت غذایی را به عنوان هدف خود قرار داده و در طی سالهای اخیر تمامی فعالیتهای پژوهشی خود را با هدف کمک به امنیت غذایی کشور همراستا کرده است.
وی اضافه کرد: در حوزه امنیت غذایی پژوهشهای زیادی انجام شده که بسیاری از آنها به مرحله کاربرد نرسیده که این ناشی از عدم ریسکپذیری صنعت غذا در حوزه نوآوری است، این صنعت به دلیل بالا بودن هزینهها و عدم اتکا به دانش داخلی حاضر به انجام ریسک نیست و همان رویه قابل پیشبینی را ادامه میدهد. برای ارزان و آسان کردن هزینههای نوآوری ضروری است تا حاکمیت در این حوزه ورود پیدا کرده تا هزینه ریسک برای بخش خصوصی کاهش یابد.
رئیس پژوهشکده علوم و فناوری مواد غذایی جهاددانشگاهی خراسان رضوی ادامه داد: صنعت غذایی کشور عمدتا وارداتی است و از دانش فنی و تکنولوژی داخلی در حد مطلوب استفاده نمیشود. این در حالی است که کشور ما توان داخلی خوبی در حوزه صنعت غذا دارد و دانشگاهها، مراکز تحقیقاتی و پژوهشکدهها دانش فنی خوبی را تولید میکنند، اما متاسفانه این دانش فنی به صنعت راه نمییابد. به منظور حل این مشکل، زیرساختهای حمایتی توسط دولت ارائه شده و یکی از این زیرساختها که توسط معاونت علمی ریاست جمهوری به وجود آمده، توسعه و ایجاد آزمایشگاههای ساخت سریع (فبلب) است که میتواند تاثیر بالایی در بهبود و ارتقای صنعت غذایی کشور داشته باشد.
حسینی افزود: پژوهشکده علوم و فناوری مواد غذایی جهاددانشگاهی خراسان رضوی به عنوان مرکزی علمی که بیش از ۳۰ سال سابقه در حوزه صنعت غذا دارد، در این زمینه وارد شده و حلقهای از بازیگران این طرح را تشکیل میدهد. در این خصوص زیرساختهای مطلوبی در پژوهشکده وجود دارد که به عنوان فبلب تخصصی با پژوهشگران به اشتراک گذاشته میشود. یکی از دلایلی که جهاددانشگاهی برای اجرای این طرح انتخاب شده، این است که این نهاد در سطح کشور شبکه عظیم و گستردهای دارد و در سابقه کارهای شبکهای خود نتایج خوبی را ارائه داده است.
وی تاکید کرد: من به عنوان یک پژوهشگر معتقد هستم که انجام چنین کار جدیدی نباید به صنعت و پژوهشگر صدمهای وارد کند، بلکه باید نهادی در این امر واسطه شود و حمایت خود را در جهت تسهیلگری برای هر دو طرف پژوهشگر و صنعت به ارمغان بیاورد. بنابراین جهاددانشگاهی به عنوان نهادی که زیرساختهای مناسب، نیروی انسانی ماهر و... دارد و از چالشهای صنعت نیز آگاه است، در این طرح وارد شده و حمایت خود را آغار کرده است، خصوصا که صنعت توان مالی و انسانی مناسبی را ندارد و به تنهایی نمیتواند در این حوزه وارد شود.
رئیس پژوهشکده علوم و فناوری مواد غذایی جهاددانشگاهی خراسان رضوی با بیان اینکه کار گروهی از دو جنبه اقتصادی و فرهنگی دارای اهمیت است، گفت: یکی از ضعفهای ما کار گروهی است و باید توجه کنیم که اگر تمامی بخشهای دخیل در حل یک مسئله دست به دست هم بدهند، نتیجه کار بسیار مطلوب و خوب ارائه میشود و فرهنگ کار گروهی در میان جامعه رواج پیدا میکند. حضرت علی(ع) نیز در این خصوص فرمودهاند: «دست خدا با جمعیّت است». بنابراین رویداد فبینفود از این جهت کاری فرهنگی هم محسوب میشود و در راستای ترویج فرهنگ کار گروهی تاثیرگذار خواهد بود.
انتهای پیام