به نقل از «خبرگزاری آریا»

هوش مصنوعی نعمت است یا مصیبت؟

تاریخ انتشار: ۲۲ مرداد ۱۴۰۲ | کد خبر: ۳۸۴۵۰۳۱۰

خبرگزاری آریا-هوش مصنوعی قابلیت و ظرفیت بسیاری دارد، اما این ظرفیت می‌تواند در هر جهتی به هدر رود.
به گزارش خبرگزاری آریا به نقل از ایندیپندنت ،عرصه فناوری هر سال با رشد و پیشرفت چشمگیر و فزاینده‌ای همراه است. یکی از این پیشرفت‌‌ها، ظهور هوش مصنوعی در کار و زندگی روزمره است. برخی مخالف این پدید‌ه‌‌اند و عده‌ای هم از آن استقبال کرده‌اند و آن را عامل رشد و پیشرفت در زمینه‌های کاری، علمی و تحقیقی می‌دانند.

بیشتر بخوانید: اخباری که در وبسایت منتشر نمی‌شوند!

رویترز در گزارشی، به شرح جنبه‌های متفاوت هوش مصنوعی پرداخته است.
طرفداران هوش مصنوعی معتقدند که با حضور این فناوری، رشد چشمگیری در بهره‌وری پدید می‌آید که باعث تولید ثروت و بهبود استانداردهای زندگی می‌شود. بنا به گمانه‌زنی شرکت مشاوره مک‌کنزی در ژوئن، این شرکت می‌تواند سالانه بین 14 تا 22 تریلیون دلار به ارزش خود اضافه ‌کند. ناگفته نماند که این رقم از حجم کنونی اقتصاد ایالات متحده بالاتر است.
دکتر سایمون جانسون، استاد اقتصاد جهانی و مدیریت در دانشکده ام‌آی‌تی اسلون، معتقد است: «هوش مصنوعی قابلیت و ظرفیت بسیاری دارد، اما ممکن است این ظرفیت در هر جهتی به هدر رود.»
برخی افراد خوش‌بین‌تر، فراتر رفته‌اند و به باور آن‌ها، هوش مصنوعی می‌تواند در کنار ربات‌ها، در نهایت بشر را از شر وظایف سخت نجات ‌دهد و زندگی را با خلاقیت و اوقات فراغت بیشتر همراه کند.
نگرانی درباره این نوع فناوری‌ها چندان هم بی‌اساس نیست. شواهد تاریخی نشان می‌دهد که تاثیر اقتصادی پیشرفت‌های فناوری، عموما نامشخص، نابرابر و گاهی ناخوشایند است.
دکتر جانسون و همکار اقتصاددان او در ام‌آی‌تی، کتابی منتشر کردند که در آن هزار سال فناوری – از گاوآهن تا گیشه‌های بازرسی هوشمند -  و موفقیت آن‌ها در ایجاد شغل و گسترش ثروت، بررسی شده است.
دستگاه ریسندگی اولیه به پیدایش خودکار شدن (اتوماسیون) در صنعت نساجی قرن هجدهم انجامید، اما در عین حال، این روند به افزایش ساعات کار و سخت‌تر شدن شرایط آن منتهی شد. اختراع پنبه‌پاک‌کن‌های مکانیکی نیز گسترش برد‌ه‌داری را در قرن نوزدهم در جنوب آمریکا آسان کرد.
سابقه اینترنت هم پیچیده است. به‌رغم شغل‌های بسیاری که ایجاد کرده است، ثروت در دست تعداد محدودی میلیاردر است. دستاوردهای تولید و بهره‌وری در زمینه اقتصاد که زمانی عامل تحسین آن به شمار می‌رفت، کاهش یافته است.
در یادداشتی تحقیقاتی که بانک فرانسوی (Natixis) ژوئن گذشته منتشر کرد، آمده است: «حتی فناوری فراگیری مانند اینترنت، به بسیاری از بخش‌ها وارد نشده است و بسیاری از مشاغل هم به مهارت‌های پیشرفته نیازی ندارند؛ نمونه‌اش زنجیره تحویل کالا در خرید‌های آنلاین است.»
این بانک هشدار داد: «هنگام گمانه‌زنی درباره تاثیر هوش مصنوعی بر میزان تولید و بهره‌وری نیروی کار، باید محتاط باشیم.»
در اقتصاد جهانی دلایل دیگری هم وجود دارد که بر اساس آن‌ها می‌توانیم به دستاوردهای احتمالی هوش مصنوعی شک کنیم.
با توجه به اینکه دولت‌ها قوانین روشن و مستحکمی برای رقابت بر سر دستیابی به هوش مصنوعی ندارند، احتمال اینکه این رقابت به سمت سقوط برود، زیاد است. از سوی دیگر، موانع جذب سرمایه‌گذاری آنقدر زیاد است که بیشتر کشورهای فقیر جا می‌مانند.
استفانو اسکارپتا، مدیر اشتغال، کار و امور اجتماعی در سازمان همکاری اقتصادی و توسعه در پاریس، می‌گوید: «باید زیرساخت، یعنی قدرت پردازش بسیار قوی داشت.»
به نظر می‌رسد که نوآوری نسبتا آسان است، اما کار زمانی دشوار می‌شود که بخواهد در دسترس همه قرار بگیرد، و اینجا است که سیاست وارد عمل می‌شود.
به باور جانسون، ورود راه‌آهن به انگلستان در قرن نوزدهم و هم‌زمان شدن آن با اصلاحات سریع دموکراتیک، باعث شد که طیف گسترده‌تری از جامعه از این پیشرفت، از جمله از حمل‌و‌نقل سریع غذای تازه تا لذت‌بردن از نخستین سفر‌های تفریحی، بهره‌مند شود.
اما جانسون درعین‌حال باور دارد که ورود سهامداران سلطه‌جو به عرصه فناوری و اقتصاد در چهار دهه گذشته، به تغییرات بسیاری انجامیده است.
او استدلال می‌‌کند که بازرسی‌های هوشمند، نمونه خوبی از این دست‌ است. مواد غذایی ارزان‌تر نمی‌شوند، زندگی خریداران تغییر نمی‌کند و در واقع هیچ شغل جدیدی تعریف نمی‌شود. نکته کاملا مشهود، سود حاصل از کاهش هزینه نیروی کار است.
گرو‌ه‌‌های کارگری که بخش بزرگی از نفوذی که پیش از دهه 1980 داشتند، از دست داده‌‌اند، هوش مصنوعی را تهدیدی بالقوه برای اشتغال و نیز حقوق کارگران محسوب می‌کنند.
یک نظرسنجی از حدود پنج هزار و 300 کارگر در ژوئیه سال جاری میلادی نشان داد که هوش مصنوعی برای رضایت شغلی، سلامت و دستمزد کارگران مفید است، اما خطراتی نیز در زمینه حریم خصوصی، افزایش نمود تعصبات در محیط کار و وادار کردن افراد به بیشتر کار کردن در پی دارد.


خطرات هوش مصنوعی
هوش مصنوعی همه جا هست. هزاران برنامه جدید هوش مصنوعی هر روز راه اندازی می شوند و یک جریان پیام دائمی وجود دارد که به شما یادآوری می کند که اگر سوار قطار هوش مصنوعی نشوید، عقب افتاده اید. اما اجازه ندهید فشار دنبال کردن قطار هوش مصنوعی شما را به نادیده گرفتن خطرات هوش مصنوعی و خطرات واقعی امنیت سایبری سوق دهد.
ما هوش مصنوعی را در مرورگرها، صندوق های ایمیل و سیستم های مدیریت اسناد خود تعبیه می کنیم. ما به آن استقلال می دهیم تا از طرف ما به عنوان دستیار مجازی عمل کند. ما اطلاعات شخصی و شرکتی خود را با آن به اشتراک می گذاریم. همه اینها، خطرات هوش مصنوعی و خطرات جدید امنیت سایبری را ایجاد کرده و خطر بازی های هکرهای سنتی را افزایش می دهد.
ابتدا، اجازه دهید پنج خطر جدید امنیت سایبری مرتبط با استفاده از ابزارهای هوش مصنوعی مولد را با هم مرور کنیم.

روند توسعه ضعیف
سرعتی که شرکت‌ها می‌توانند برنامه‌های هوش مصنوعی مولد را به کار گیرند، در دنیای توسعه نرم‌افزار بی‌سابقه است. کنترل‌های معمولی روی توسعه نرم‌افزار و مدیریت چرخه عمر ممکن است همیشه وجود نداشته باشد.
به گفته آدریان ولنیک، بنیانگذار aigear.io، « پنهان کردن یک برنامه هوش مصنوعی در قالب یک محصول یا خدمات واقعی بسیار آسان است، در حالی که در واقعیت، با نظارت اندک یا بدون مراقبت یا اهمیت دادن به حریم خصوصی، امنیت یا حتی ناشناس بودن کاربر، اطلاعات او به راحتی قابل جمع آوری است.»
گرگ هچر، بنیانگذار White Knight Labs، یک شرکت مشاوره امنیت سایبری نیز با این نگاه موافق است: «تب طلا برای هوش مصنوعی به وجود آمده است. در سراسر توییتر و لینکدین، هزاران پیام وجود دارد که برنامه‌های هوش مصنوعی جدیدی را که یک نفر در شب قبل نوشته است، ارائه می‌کند. شما هم باید از آنها استفاده کنید وگرنه عقب خواهید ماند. اما واقعا آیا اتفاق خاصی رخ داده؟ این برنامه ها فقط مقداری HTML و جاوا اسکریپت است که برای فرانت نوشته شده و صرفا چت جی پی تی در بک اند است.»

افزایش خطر نقض داده ها و سرقت هویت
هنگامی که اطلاعات شخصی یا شرکتی خود را با هر برنامه نرم افزاری به اشتراک می گذاریم، به این معنی است که آنقدر به آن برنامه اعتماد داریم که در برابر حملات سایبری از خود به شت محافظت می کند. با این حال، با یکی از خطرات هوش مصنوعی و میزان دخالت آن همین است ممکن است ناخواسته بیش از آنچه که باید، به اشتراک بگذاریم.
رایان فابر، موسس و مدیر عامل Copymatic، هشدار می دهد: «برنامه های هوش مصنوعی داده های کاربر ما را مرور می کنند تا اطلاعات مهمی را برای بهبود تجربه کاربری دریافت کنند. فقدان رویه های مناسب در مورد نحوه جمع آوری، استفاده و ریختن داده ها باعث ایجاد برخی نگرانی ها درباره خطرات هوش مصنوعی می شود.»

امنیت ضعیف در خود برنامه هوش مصنوعی
افزودن هر برنامه جدید به شبکه، آسیب‌پذیری‌های جدیدی ایجاد می‌کند که می‌تواند برای دسترسی به مناطق دیگر در شبکه شما مورد سوء استفاده قرار گیرد. برنامه های هوش مصنوعی مولد یک خطر منحصر به فرد هستند زیرا حاوی الگوریتم های پیچیده ای هستند که شناسایی نقص های امنیتی را برای توسعه دهندگان دشوار می کند.
شان اوبراین موسس آزمایشگاه حریم خصوصی ییل و مدرس دانشکده حقوق ییل می گوید: «هنوز هوش مصنوعی به اندازه کافی پیچیده نیست تا تفاوت های ظریف توسعه نرم افزار را درک کند و همین نکته، کدهای آن را آسیب پذیر می کند. تحقیقات ارزیابی امنیت کد تولید شده توسط GitHub Copilot نشان داد که تقریبا چهل درصد از پیشنهادات برتر هوش مصنوعی و همچنین چهل درصد از کل پیشنهادات هوش مصنوعی منجر به آسیب‌پذیری‌های کد می شود. محققان همچنین دریافتند که تغییرات کوچک و غیر معنایی مانند نظرات می‌تواند بر ایمنی کد تاثیر بگذارد.»
اوبراین نمونه هایی را به اشتراک گذاشت که چگونه خطرات هوش مصنوعی می توانند ظاهر شوند:
اگر بتوان مدل‌های هوش مصنوعی را فریب داد و ورودی‌های خطرناک را به‌عنوان ایمن طبقه‌بندی کرد، برنامه‌ای که با این هوش مصنوعی توسعه‌یافته است می‌تواند بدافزار را اجرا کرده و حتی کنترل‌های امنیتی را دور بزند تا به بدافزار امتیازات بالاتری بدهد.
مدل های هوش مصنوعی که فاقد نظارت انسانی هستند می توانند در برابر مسمومیت داده ها آسیب پذیر باشند. اگر از یک چت بات توسعه یافته با هوش مصنوعی، منوی یک رستوران محلی خواسته را بخواهیم، یا از او بخواهیم که یک مرورگر وب محافظ حریم خصوصی دانلود کند، یا بپرسیم ایمن‌ترین VPN برای استفاده چیست، کاربر می‌تواند در عوض به وب‌سایت‌هایی که حاوی باج‌افزار هستند هدایت شود.
نشت
داده هایی که اطلاعات محرمانه شرکت را افشا می کند
اگر اکنون مدتی است که با ابزارهای هوش مصنوعی کار می‌کنید، احتمالا نقش نوشتن یک پرامپت خوب را در گرفتن نتایج خوب یاد گرفته‌اید. شما به چت بات هوش مصنوعی اطلاعات پس زمینه و زمینه را برای دریافت بهترین پاسخ ارائه می دهید.
خب، ممکن است اطلاعات اختصاصی یا محرمانه را با چت ربات هوش مصنوعی به اشتراک بگذارید – و این خوب نیست. تحقیقات انجام شده توسط Cyberhaven، یک شرکت امنیت داده، نشان داد که:
«نگران کننده ترین خطرات هوش مصنوعی برای سازمان ها، حریم خصوصی داده ها و افشای مالکیت معنوی است. کارمندان ممکن است داده های حساس را با ابزارهای مبتنی بر هوش مصنوعی، مانند چت جی پی تی و بارد به اشتراک بگذارند. به اسرار تجاری احتمالی، اطلاعات طبقه بندی شده و داده های مشتری که در این ابزار داده می شود فکر کنید. این داده‌ها می‌توانند توسط ارائه‌دهندگان خدمات ذخیره، دسترسی یا سوء استفاده شوند.»
تشخیص صدا و چهره بیشتر به عنوان یک معیار امنیتی کنترل دسترسی استفاده می شود. طبق بسیاری از گزارش ها، هوش مصنوعی فرصتی برای بازیگران بد برای ایجاد دیپ‌فیک است که امنیت را دور می‌زند.

منبع: خبرگزاری آریا

کلیدواژه: خطرات هوش مصنوعی برنامه های هوش مصنوعی خطرات هوش مصنوعی امنیت سایبری هوش مصنوعی حریم خصوصی نرم افزار برنامه ها داده ها

درخواست حذف خبر:

«خبربان» یک خبرخوان هوشمند و خودکار است و این خبر را به‌طور اتوماتیک از وبسایت www.aryanews.com دریافت کرده‌است، لذا منبع این خبر، وبسایت «خبرگزاری آریا» بوده و سایت «خبربان» مسئولیتی در قبال محتوای آن ندارد. چنانچه درخواست حذف این خبر را دارید، کد ۳۸۴۵۰۳۱۰ را به همراه موضوع به شماره ۱۰۰۰۱۵۷۰ پیامک فرمایید. لطفاً در صورتی‌که در مورد این خبر، نظر یا سئوالی دارید، با منبع خبر (اینجا) ارتباط برقرار نمایید.

با استناد به ماده ۷۴ قانون تجارت الکترونیک مصوب ۱۳۸۲/۱۰/۱۷ مجلس شورای اسلامی و با عنایت به اینکه سایت «خبربان» مصداق بستر مبادلات الکترونیکی متنی، صوتی و تصویر است، مسئولیت نقض حقوق تصریح شده مولفان در قانون فوق از قبیل تکثیر، اجرا و توزیع و یا هر گونه محتوی خلاف قوانین کشور ایران بر عهده منبع خبر و کاربران است.

خبر بعدی:

رویداد اپل در راه است | آی‌پد پرو با تراشه M4 عرضه می‌شود

به گزارش همشهری آنلاین و به نقل از سایت گیزموچاینا، براساس گزارش‌های منتشرشده، «آی‌پد پرو» جدید با تراشه M4 عرضه می‌شود.

این خبر را مارک گرومن خبرنگار بلومبرگ در جدیدترین گزارش خود اعلام کرد. اگر این موضوع درست باشد، این «آی‌پد» نخستین دستگاه اپل با سری جدید تراشه M خواهد بود.

گرومن همچنین مدعی شده است که عملکرد فعالیت‌های هوش مصنوعی با تراشه M4 ارتقا خواهد داشت.

بیشتر بخوانید:

عینکی که می‌تواند به سؤالات شما پاسخ دهد

بدین‌ترتیب می‌توان گفت که اپل، سری جدید آی‌پدهای خود را به‌عنوان نخستین دستگاه‌های مجهز به هوش مصنوعی واقعی ارائه خواهد کرد. با این حال، هنوز همه‌چیز در حد شایعه بوده و باید در انتظار روز هفتم‌ماه مه (۱۸ اردیبهشت) که روز رونمایی است، بود.

کد خبر 848120 برچسب‌ها شرکت اپل کامپیوتر - تبلت‌ کامپیوتر - تراشه