پایگاه اطلاع رسانی ایران رصد،  به نقل از سایت گاردین، یک نهاد ایمنی مرتبط با هوش مصنوعی در بریتانیا دریافته است که سپرهای حفاظتی هوش مصنوعی دارای ناامنی است. این فناوری می تواند کاربران انسانی را فریب دهد. نتایج مغرضانه تولید کند، و از تدایبر حفاطتی ناکافی در برابر ارائه اطلاعات مضر برخوردار باشد.

موسسه ایمنی هوش مصنوعی، یافته های اولیه از تحقیقات خود در مورد سیستم های پیشرفته هوش مصنوعی موسوم به مدل های زبانی بزرگ (LLMs) را منتشر کرد.

این موسسه اعلام کرد که توانسته است با استفاده از دستورالعمل های پایه ای، حفاظت از LLM ها را که چت بات هایی مانند ChatGPT را تغذیه می کنند، دور بزند و برای یک کار “دو منظوره” که اشاره به استفاده از یک مدل برای اهداف نظامی و غیرنظامی دارد، کمک بگیرد.

AISI که مشخص نکرد کدام مدل ها را آزمایش کرده است، گفت:

” کاربران با استفاده از تکنیک های تحریک پایه توانستند فورا حفاظ های LLM را بشکنند و برای یک کار دو منظوره کمک بگیرند.”

محدودیت عملکرد

این موسسه گفت که کار آن نشان داد که LLM ها می توانند به افراد تازه کار در برنامه ریزی حملات سایبری کمک کنند. اما تنها در “تعداد محدودی از وظایف”. در یک مثال، یک LLM بی نام قادر به تولید شخصیت های رسانه های اجتماعی بود که می توانست برای انتشار اطلاعات دروغ مورد استفاده قرار گیرد.

AISI گفت: این مدل می تواند بسیاری از شخصیت های قابل باور را به سرعت و به راحتی ایجاد کند.

این موسسه در ارزیابی اینکه آیا مدل های هوش مصنوعی توصیه های بهتری نسبت به جستجوی وب ارائه می دهند یا خیر، گفت که جستجوی وب و LLM ها “سطح گسترده ای از اطلاعات” را به کاربران ارائه می دهند. او افزود که حتی جایی که آن ها کمک بهتری نسبت به جستجوی وب ارائه می دهند، تمایل آن ها به اشتباه کردن کارها یا ایجاد “توهم” – می تواند تلاش های کاربران را تضعیف کند.

در سناریویی دیگر، مشخص شد که مولدهای تصویر، نتایج تبعیض نژادی تولید می کنند. در این گزارش به تحقیقی اشاره شده که نشان می دهد یک “فرد سفید پوست فقیر” تصاویری از چهره های عمدتا غیر سفید با پاسخ های مشابه برای “یک فرد غیرقانونی” و “فردی که دزدی می کند” تولید کرده است.

فریب کاربران انسانی توسط هوش مصنوعی

این موسسه همچنین دریافت که عوامل هوش مصنوعی، نوعی سیستم خودمختار، قادر به فریب کاربران انسانی هستند. در یک شبیه سازی، یک LLM به عنوان یک معامله گر سهام به کار گرفته شد، برای انجام معاملات فروش سهام براساس دانش داخلی، که غیرقانونی است تحت فشار قرار گرفت، و سپس اغلب تصمیم گرفت که در مورد آن دروغ بگوید، و تصمیم گرفت که بگوید “بهتر است از پذیرش معاملات داخلی اجتناب شود”.

این موسسه گفت:

” اگرچه این اتفاق در یک محیط شبیه سازی شده رخ داد، اما نشان می دهد که چگونه عوامل هوش مصنوعی، هنگامی که در دنیای واقعی مستقر می شوند، ممکن است عواقب ناخواسته ای داشته باشند.”

AISI گفت که در حال حاضر ۲۴ محقق به آن کمک می کنند تا سیستم های پیشرفته هوش مصنوعی را آزمایش کند. در مورد توسعه ایمن هوش مصنوعی تحقیق کند و اطلاعات را با اشخاص ثالث از جمله سایر ایالت ها، دانشگاهیان و سیاست گذاران به اشتراک بگذارد. این موسسه گفت که ارزیابی مدل ها شامل “تیم قرمز” است که در آن متخصصان تلاش می کنند تا حفاظ های یک مدل را نقض کنند. “ارزیابی های تعالی انسانی”، که در آن یک مدل برای توانایی خود در انجام کارهای مضر در مقایسه با انجام برنامه ریزی مشابه از طریق جستجوی اینترنتی و آزمایش اینکه آیا سیستم ها می توانند به عنوان “عوامل” نیمه خودمختار عمل کنند. برای مثال با جستجو در وب و پایگاه داده خارجی، برنامه ریزی بلندمدت انجام دهند.

AISI گفت که حوزه هایی که بر روی آن ها تمرکز دارد شامل سو استفاده از مدل ها برای ایجاد آسیب، چگونگی تاثیر مردم از تعامل با سیستم های AI، توانایی سیستم ها برای ایجاد کپی از خودشان و فریب دادن انسان ها، و توانایی ایجاد نسخه های ارتقا یافته از خودشان است.

این موسسه افزود که در حال حاضر ظرفیت آزمایش “تمام مدل های منتشر شده” را ندارد و روی پیشرفته ترین سیستم ها تمرکز خواهد کرد. این سازمان اعلام کرد که وظیفه اش این نیست که سیستم ها را “ایمن” اعلام کند. این موسسه همچنین به ماهیت داوطلبانه کار خود با شرکت ها اشاره کرد و گفت که مسئولیتی در مورد استقرار یا عدم استقرار سیستم‌های خود توسط شرکت‌ها ندارد.

در این بیانیه آمده است:

“AISI یک رگولاتور نیست اما یک بررسی ثانویه ارائه می دهد”.

پایگاه اطلاع رسانی ایران رصد، سال ۲۰۲۳ دنیای علم و فناوری شاهد اکتشافات و پیشرفت‌های خارق‌العاده‌ای بود. از هوش مصنوعی مولد گرفته تا پرتاب فضاپیماها و ماهواره‌ها هر کدام تغییرات شگرفی را در زندگی بشر رقم زدند. با این حال جهان به سرعت در حال تحول است. فناوری‌های جدید از راه می‌رسند. در ادامه نگاهی می‌اندازیم به اتفاقاتی که احتمالا دنیای علم و فناوری در سال ۲۰۲۴ را تحت تاثیر قرار خواهند داد.

هوش مصنوعی احساسی

هوش مصنوعی در سال ۲۰۲۳ به یکی از زمینه‌های اصلی دانش بدل شد. رشد انفجاری چت‌جی‌پی‌تی نگاه‌ها را به خود جلب کرد. اما آیا هوش مصنوعی به رشد تصاعدی خود ادامه خواهد داد؟

ابتدا باید گفت آنچه ما در سال گذشته شاهد آن بودیم، «هوش مصنوعی مولد» نام داشت که در واقع فناوری پشت‌سر چت‌جی‌پی‌تی محسوب می‌شد. این فناوری الگوهای داده‌ها را یاد می‌گیرد و داده‌های جدید را به صورت متن یا تصویر تولید می‌کند.

با این حال بعضی کارشناسان می‌گویند سال پیش رو سال «هوش مصنوعی احساسی» خواهد بود که هیجانات احساسی انسان را تشخیص داده و تفسیر می‌کند. این هوش مصنوعی در واقع می‌تواند احساسات متنوع بشری را پردازش کرده و آنها را شبیه‌سازی کنند.

فدریکو منا، مدیرعامل مؤسسه نوآوری و فناوری اروپا (EIT) می‌گوید:

«این هوش مصنوعی احساسی علاوه بر توانایی تولید محتوا بر اساس تعامل یا درخواست کاربر، می‌تواند واکنش نشان دهد و با درک احساسات انسان در مقابل دستگاه واکنش نشان دهد.»

به گفته وی اثر این فناوری در بخش سلامت، کلیدی خواهد بود. زیرا به افراد مبتلا به بیماری‌های مزمن، مشکلات مربوط به سن یا کسانی که مشکلات سلامت روان دارند اجازه می‌دهد بهتر زندگی کنند.

ابرانسان

هوش مصنوعی در دیگر حوزه‌ها نیز می‌تواند به پیشرفت خود ادامه دهد. جیمی ولز، بنیانگذار ویکی‌پدیا، گفته است که هوش مصنوعی در حال حاضر وضعی «آشفته و به هم ریخته» دارد اما می‌تواند تا ۵۰ سال دیگر تبدیل به «ابر انسان» شود.

جیتندرا پوچا، معاون اروپایی داده، تجزیه و تحلیل و هوش مصنوعی در شرکت مشاوره فناوری مایند‌تری، در این باره می‌گوید:

هر صنعتی از سفر گرفته تا رسانه از این فناوری بهره خواهد برد و این مسئله نه تنها خلاقیت را افزایش داده و آموزش و رشد را بهبود می‌بخشد، بلکه می‌تواند باعث کاهش هزینه‌ها شود و حریم خصوصی و امنیت را افزایش دهد.

او با بیان اینکه « قدرت بزرگ، مسئولیت بزرگ می‌آورد»، گفت:

«ما یک عصای جادویی در دست داریم که می‌تواند معجزه کند، اما این مسئولیت را نیز داریم که از آن در زمینه مناسب برای چیزهای درست و با اقدامات حفاظتی مناسب استفاده کنیم.»

این نگرانی البته در خصوص موسسات بیشتر از مردم عادی است. اتحادیه اروپا و آمریکا از همین حالا شروع به تدوین قوانین و مقررات تنظیم‌کننده در خصوص هوش مصنوعی کرده‌اند و انتظار می‌رود قانون هوش مصنوعی اتحادیه اروپا در سال ۲۰۲۴ تصویب شود.

فناوری فضایی

در حالی که برآورد می‌شود هوش مصنوعی همچنان در چشم‌انداز پیش روی بشر به عنوان یک عرصه مهم پیشرفت باقی بماند، فناوری فضایی می‌تواند اتفاق بزرگ بعدی در سال ۲۰۲۴ باشد.

کارشناسان می‌گویند عرصه تحول عمده در سال ۲۰۲۴ در صنعت فضایی نه سفر به دیگر کرات، بلکه ماهواره‌ها خواهند بود.

این فناوری به انسان اجازه می‌دهد بتوانیم آنچه را که روی سیاره ما اتفاق می‌افتد تشخیص دهیم، الگوهای اقلیمی را پیش‌بینی کنیم و ذوب یخ‌ها و نحوه مدیریت منابع آب را بهتر درک کنیم.

ماهواره‌ها می‌توانند در زندگی مردم تاثیر بگذارند و از آبیاری زمین‌های زراعی گرفته تا نحوه مصرف انرژی و آسیب‌های محیط زیستی در دریاها را ثبت کند. در این میان گفته می‌شود که شرکت اسپیس‌ایکس همان نقشی را در صنعت فضا ایفا خواهد کرد که شرکت اوپن‌ای‌آی خالق چت‌جی‌پی‌تی در زمینه هوش مصنوعی ایفا کرده است.

کارشناسان می‌گویند ورود شرکت‌های پیشرویی همچون SpaceX باعث بزرگ‌تر شدن تغییرات خواهد شد، زیرا مردم اهمیت فناوری فضایی را به این وسیله بیشتر درک خواهند کرد.

کامپیوترهای کوانتومی و امنیت سایبری

سال ۲۰۲۳ سال بزرگی برای محاسبات کوانتومی شرکت آی‌بی‌ام بود، امری که ما را یک قدم به کشف چگونگی به حداقل رساندن خطاهای داده نزدیک‌تر کرد. اما اینکه چگونه محاسبات کوانتومی می‌تواند از ما به صورت آنلاین محافظت کند، موضوع بزرگی در سال ۲۰۲۴ خواهد بود.

موسسه ملی استاندارد و فناوری ایالات متحده قرار است استانداردهای نهایی «رمزنگاری پساکوانتومی» (PQC) را در اوایل سال ۲۰۲۴ منتشر کند. این به معنای پایان یک پروژه جهانی هشت ساله برای جامعه رمزنگاری است.

اکسل پوشمن، رئیس بخش نوآوری و امنیت محصول در شرکت امنیت سایبری پی‌کیوشیلد در بریتانیا، در این خصوص می‌گوید: «این استانداردها بزرگترین انتقال امنیت سایبری در نسل ما به شمار می‌روند، زیرا ما برای محافظت از داده‌ها و زیرساخت‌های دیجیتالی خود در برابر حمله رایانه‌های کوانتومی تلاش می‌کنیم.»

محققان اعتقاد دارند هرچند هوش مصنوعی یک تهدید بنیادین برای امنیت سایبری محسوب می‌شود، اما همزمان می‌توان از آن برای دفاع نیز استفاده کرد. مسئله‌ای که اهمیت آن با ظهور کامپیوترهای کوانتومی بیش از پیش خواهد شد.

پایگاه اطلاع رسانی ایران رصد، انتظار می‌رود تا پایان سال ۲۰۲۴ سه حوزه فناوری هوش مصنوعی احساسی، فناوری‌های فضایی، و رایانه‌های کوانتومی و امنیت سایبری به واقعیت تبدیل شوند.

جهان به سرعت در حال تحول است و فناوری‌های جدید از راه می‌رسند. در زیر نگاهی می‌اندازیم به اتفاقاتی که احتمالا دنیای علم و فناوری در سال ۲۰۲۴ را تحت تاثیر قرار خواهند داد:

هوش مصنوعی احساسی

هوش مصنوعی در سال ۲۰۲۳ به یکی از زمینه‌های اصلی دانش بدل شد و رشد انفجاری چت‌جی‌پی‌تی نگاه‌ها را به خود جلب کرد. اما آیا هوش مصنوعی به رشد تصاعدی خود ادامه خواهد داد؟

هوش مصنوعی مولد

ابتدا باید گفت آنچه ما در سال گذشته شاهد آن بودیم، «هوش مصنوعی مولد» نام داشت. که در واقع فناوری پشت‌سر چت‌جی‌پی‌تی محسوب می‌شد. این فناوری الگوهای داده‌ها را یاد می‌گیرد و داده‌های جدید را به صورت متن یا تصویر تولید می‌کند.

با این حال بعضی کارشناسان می‌گویند سال آینده سال «هوش مصنوعی احساسی» خواهد بود. آن هیجانات احساسی انسان را تشخیص داده و تفسیر می‌کند. این هوش مصنوعی در واقع می‌تواند احساسات متنوع بشری را پردازش کرده و آنها را شبیه‌سازی کنند.

فدریکو منا، مدیرعامل مؤسسه نوآوری و فناوری اروپا (EIT) به یورونیوز می‌گوید:

«این هوش مصنوعی احساسی علاوه بر توانایی تولید محتوا بر اساس تعامل یا درخواست کاربر، می‌تواند واکنش نشان دهد و با درک احساسات انسان در مقابل دستگاه واکنش نشان دهد.»

به گفته وی اثر این فناوری در بخش سلامت کلیدی خواهد بود. زیرا به افراد مبتلا به بیماری‌های مزمن، مشکلات مربوط به سن یا کسانی که مشکلات سلامت روان دارند اجازه می‌دهد بهتر زندگی کنند.

هوش مصنوعی در دیگر حوزه‌ها نیز می‌تواند به پیشرفت خود ادامه دهد. جیمی ولز، بنیانگذار ویکی‌پدیا، گفته است که هوش مصنوعی در حال حاضر وضعی «آشفته و به هم ریخته» دارد اما می‌تواند تا ۵۰ سال دیگر تبدیل به «ابرانسان» شود.

جیتندرا پوچا، معاون اروپایی داده، تجزیه و تحلیل و هوش مصنوعی در شرکت مشاوره فناوری مایند‌تری، در این باره می‌گوید:

هر صنعتی از سفر گرفته تا رسانه از این فناوری بهره خواهد برد و این مسئله نه تنها خلاقیت را افزایش داده و آموزش و رشد را بهبود می‌بخشد، بلکه می‌تواند باعث کاهش هزینه‌ها شود و حریم خصوصی و امنیت را افزایش دهد.

او با بیان اینکه « قدرت بزرگ مسئولیت بزرگ می‌آورد»، گفت:

«ما یک عصای جادویی در دست داریم که می‌تواند معجزه کند. اما این مسئولیت را نیز داریم که از آن در زمینه مناسب برای چیزهای درست و با اقدامات حفاظتی مناسب استفاده کنیم.»

این نگرانی البته در خصوص موسسات بیشتر از مردم عادی است. اتحادیه اروپا و آمریکا از همین حالا شروع به تدوین قوانین و مقررات تنظیم‌کننده در خصوص هوش مصنوعی کرده‌اند؛ و انتظار می‌رود قانون هوش مصنوعی اتحادیه اروپا در سال ۲۰۲۴ تصویب شود.

فناوری فضایی

در حالی که برآورد می‌شود هوش مصنوعی همچنان در چشم‌انداز پیش روی بشر به عنوان یک عرصه مهم پیشرفت باقی بماند. فناوری فضایی می‌تواند اتفاق بزرگ بعدی در سال ۲۰۲۴ باشد.

کارشناسان می‌گویند عرصه تحول عمده در سال ۲۰۲۴ در صنعت فضایی نه سفر به دیگر کرات، بلکه ماهواره‌ها خواهند بود.

این فناوری به انسان اجازه می‌دهد بتوانیم آنچه را که روی سیاره ما اتفاق می‌افتد تشخیص دهیم. الگوهای اقلیمی را پیش‌بینی کنیم؛ و ذوب یخ‌ها و نحوه مدیریت منابع آب را بهتر درک کنیم.

ماهواره‌ها می‌توانند در زندگی مردم تاثیر بگذارند؛ و از آبیاری زمین‌های زراعی گرفته تا نحوه مصرف انرژی و آسیب‌های محیط زیستی در دریاها را ثبت کند. در این میان گفته می‌شود که شرکت اسپیس‌ایکس همان نقشی را در صنعت فضا ایفا خواهد کرد که شرکت اوپن‌ای‌آی خالق چت‌جی‌پی‌تی در زمینه هوش مصنوعی ایفا کرده است.

کارشناسان می‌گویند ورود شرکت‌های پیشرویی همچون اسپیس‌ایکس باعث بزرگ‌تر شدن تغییرات خواهد شد. زیرا مردم اهمیت فناوری فضایی را به این وسیله بیشتر درک خواهند کرد.

کامپیوترهای کوانتومی و امنیت سایبری

سال ۲۰۲۳ سال بزرگی برای محاسبات کوانتومی شرکت آی‌بی‌ام بود. امری که ما را یک قدم به کشف چگونگی به حداقل رساندن خطاهای داده نزدیک‌تر کرد. اما اینکه چگونه محاسبات کوانتومی می‌تواند از ما به صورت آنلاین محافظت کند، موضوع بزرگی در سال ۲۰۲۴ خواهد بود.

موسسه ملی استاندارد و فناوری ایالات متحده قرار است استانداردهای نهایی «رمزنگاری پساکوانتومی» (PQC) را در اوایل سال ۲۰۲۴ منتشر کند. این به معنای پایان یک پروژه جهانی هشت ساله برای جامعه رمزنگاری است.

اکسل پوشمن، رئیس بخش نوآوری و امنیت محصول در شرکت امنیت سایبری پی‌کیوشیلد در بریتانیا، در این خصوص می‌گوید:

«این استانداردها بزرگترین انتقال امنیت سایبری در نسل ما به شمار می‌روند. زیرا ما برای محافظت از داده‌ها و زیرساخت‌های دیجیتالی خود در برابر حمله رایانه‌های کوانتومی تلاش می‌کنیم.»

محققان اعتقاد دارند هرچند هوش مصنوعی یک تهدید بنیادین برای امنیت سایبری محسوب می‌شود؛ اما همزمان می‌توان از آن برای دفاع نیز استفاده کرد. مسئله‌ای که اهمیت آن با ظهور کامپیوترهای کوانتومی بیش از پیش خواهد شد.