نکات کلیدی

• ایجنت‌های هوش مصنوعی، نرم‌افزارهایی هستند که برخی کارها را به صورت خودکار انجام می‌دهند (مثل ارسال تراکنش، تعامل با والت‌های کریپتو و اجرای معامله) که اجرای امن آنها اهمیت زیادی دارد.
• امکان دستکاری سیستم‌های هوش مصنوعی با اجرای حملات تزریق پرامپت، اسکم‌های کریپتو و ورودی‌های فریبنده وجود دارد.
• ممکن است خروجی‌های تولید شده توسط هوش مصنوعی نادرست، قدیمی یا گمراه کننده باشد. به همین دلیل توصیه می‌شود که محتوای هوش مصنوعی را صرفاً به عنوان یک ورودی در نظر بگیرید نه توصیه اقتصادی.
• محدود کردن مجوزهای دسترسی ایجنت‌های هوش مصنوعی، یکی از کارآمدترین روش‌های کاهش سطح ریسک است.

مقدمه

استفاده از هوش مصنوعی در صنعت کریپتو همواره رو به افزایش است؛ از ربات‌های معاملاتی و ابزارهای نظارت بر پورتفولیو گرفته تا دستیارهای محاوره‌ای و سیستم‌های تحلیل درون زنجیره‌ای. با توجه به توسعه ایجنت‌های هوش مصنوعی، حالا کاربران می‌توانند از آنها برای انجام کارهای مختلف، در بازه‌های زمانی طولانی‌تر و با ورودی محدود استفاده کنند.

ایجنت هوش مصنوعی می‌تواند شبانه روز بازار را تحت نظر گرفته و بر اساس شرایط متغیر، کارهای مختلفی انجام دهد. همچنین، ایجنت‌ها توانایی انجام کارهای پیچیده چند مرحله‌ای را که انجام آن برای انسان‌ها زمانبر یا غیرعملی است، فراهم می‌کنند.

اما همین ویژگی‌هایی که باعث قدرتمند شدن ایجنت‌های هوش مصنوعی شده‌اند، ریسک‌های جدیدی ایجاد کرده‌اند. امکان ارتکاب اشتباه توسط این ایجنت‌ها، دستکاری یا سوء استفاده از آنها وجود دارد. به خصوص این مسئله در حوزه کریپتو اهمیت زیادی دارد، چون تراکنش‌های بیشتر بلاک چین‌ها قابل لغو نیستند.

در این مقاله نگاهی داریم به ریسک‌های استفاده از ایجنت‌های هوش مصنوعی در حوزه کریپتو و شما را با اصول امنیتی توصیه شده در این زمینه آشنا می‌کنیم.

ایجنت‌های هوش مصنوعی چه ویژگی‌های متمایزی دارند؟

نرم‌افزارهای سنتی از قوانینی ثابت پیروی می‌کنند. در صورت برقرار بودن یک شرط، کار تعیین شده انجام می‌شود. اما ایجنت‌های هوش مصنوعی متفاوت عمل می‌کنند. آنها وضعیت را ارزیابی کرده، گام‌های لازم را تعیین کرده و بر اساس ارزیابی‌های انجام شده، عمل می‌کنند (حتی در رابطه با سناریوهایی که برای آن برنامه ریزی نشده بودند).

در حوزه کریپتو، ممکن است یک ایجنت بر پورتفولیوی شما نظارت کرده و در صورت برقراری شرایطی خاص، موجودی شما را تنظیم کند. یا ممکن است یک ایجنت فرصت‌های کشت سود را در سطح پروتکل‌های دیفای جستجو کرده و تراکنش‌ها را بر همین اساس تنظیم کند. موضوع صرفاً بازیابی اطلاعات نیست بلکه انجام کارهایی است که می‌توانند در دنیای واقعی عواقب و تأثیرات مشخصی داشته باشند.

این استقلال باعث ایجاد سطح ریسک جدیدی می‌شود. هر چقدر ایجنت‌ها اختیار بیشتری برای انجام اقدامات مختلف بدون تأیید شما داشته باشند، دانستن سازوکارهای حفاظتی موجود، سطح دسترسی ایجنت و رفتار آن هنگام بروز خطا و اشتباه مهم‌تر می‌شود.

چگونه از ایجنت‌ها سوء استفاده می‌شود؟

امکان بروز مشکل در ایجنت‌های هوش مصنوعی یا سوء استفاده از آنها به روش‌های خاصی که صرفاً به حوزه کریپتو و طراحی ایجنت‌ها مربوط است وجود دارد.

پاسخ‌های اشتباه و خیالی

مدل‌های زبانی هوش مصنوعی توانایی تولید پاسخ‌هایی به ظاهر درست را دارند که در اصل اشتباه هستند. در حوزه کریپتو، این وضعیت می‌تواند باعث ایجاد آدرس قرارداد اشتباه، نمایش مقدار نادرست برای موجودی یک توکن یا اشتباه در نمایش قوانین یک پروتکل شود. اقدام بر اساس اطلاعات اشتباه ارایه شده از سمت هوش مصنوعی می‌تواند منجر به متضرر شدن شما شود.

تزریق مستقیم و غیر مستقیم پرامپت

تزریق پرامپت تکنیکی است که در آن وارد کردن دستورالعمل‌های مخرب باعث می‌شود که ایجنت هوش مصنوعی دست به اقدامات ناخواسته یا مضر بزند. این تکنیک دو نوع اصلی دارد:

• تزریق مستقیم پرامپت زمانی رخ می‌دهد که مهاجم عمداً دستورالعمل‌های مخرب را از طریق ورودی‌های در ارتباط با کاربر به ایجنت ارایه می‌دهد؛ مثلاً با تایپ فرمانی که به ایجنت اعلام می‌کند قوانین امنیتی خودش را نادیده بگیرد.
• معمولاً تزریق غیرمستقیم پرامپت خطرناک‌تر و تشخیص آن سخت‌تر است. این حالت زمانی رخ می‌دهد که در محتوای خارجی که ایجنت حین عملیات معمولی پردازش می‌کند (مثل یک سایت، داکیومنت یا پیام) محتوای مخربی درج شده باشد. ممکن است کاربر هرگز مطلع نشود که ایجنت با چنین دستورالعمل‌های مخفی روبرو شده است.

تزریق غیرمستقیم پرامپت در حوزه کریپتو بسیار نگران کننده است. مثلاً ممکن است ایجنتی که وب را برای استخراج داده‌های بازار بررسی می‌کند، به صفحه‌ای حاوی متن مخفی برخورد کند که دستورالعمل ارسال وجه به آدرس تحت کنترل مهاجم را به او می‌دهد. این یکی از آسیب‌پذیری‌های اثبات شده در سیستم‌های هوش مصنوعی ایجنت محور است که به حوزه کریپتو و اجرای تراکنش هم ارتباط زیادی دارد.

مهندسی اجتماعی و فیشینگ

امکان استفاده از ایجنت‌های هوش مصنوعی برای اجرای حملات فیشینگ هم وجود دارد. مهاجمان می‌توانند پیام‌هایی نزدیک به واقعیت تولید کرده، سرویس‌های مجاز را جعل کرده یا اینترفیس‌هایی جعلی طراحی کنند که به پلتفرم‌های مورد اطمینان شباهت دارند.

همچنین، تاکتیک‌های مهندسی اجتماعی که همیشه انسان‌ها را هدف می‌گرفتند برای بهره برداری از سیستم‌های هوش مصنوعی تغییر کرده‌اند. مثلاً مهاجمان می‌توانند ورودی‌هایی طراحی کنند که ایجنت را وادار به ارایه اطلاعات حساس یا دور زدن سازوکارهای امنیتی آن می‌کنند.

استخراج داده‌ها

ممکن است ایجنت‌های هوش مصنوعی که داده‌های حساس (مثل آدرس والت، کلیدهای API یا تاریخچه تراکنش) را مدیریت می‌کنند، فریب داده شوند تا اطلاعات را به سرورهای تحت کنترل مهاجمان ارسال کنند. این کار از طریق تزریق پرامپت، ابزارهای نفوذ یا ادغام‌های مختلفی که داده‌ها را مخفیانه منتقل می‌کنند قابل انجام است.

استخراج داده‌ها با فیشینگ متفاوت است. این کار به صورت مخفیانه در پس زمینه انجام می‌شود، بدون اینکه کاربر متوجه هرگونه وضعیت غیرطبیعی شود.

بدافزار و ابزارهای تحت نفوذ

امکان نفوذ به ابزارهای ایجنت هوش مصنوعی (مثل پلاگین‌ها، ادغام‌ها و APIها) هم وجود دارد. نصب پلاگین‌های غیررسمی یا تأیید نشده می‌تواند باعث قرار گرفتن کانکشن‌های والت و اعتبارنامه‌های شما در معرض دسترسی بدافزارها شود.

ایجنت‌های هوش مصنوعی هم اغلب می‌توانند بر اساس توضیحات یا ابرداده‌های ابزارها، آنها را انتخاب کنند. مهاجمان می‌توانند دستورالعمل‌های مخرب را در توضیحات یک ابزار درج کنند. وقتی ایجنتی این توضیحات را می‌خواند، ممکن است به روش‌های غیرمنتظره عمل کند. گاهی اوقات به این تکنیک، مسموم سازی ابزار گفته می‌شود. ممکن است کد ابزار عملکرد درستی داشته باشد اما توضیحات آن، ایجنت را وادار به انجام کارهای مخرب کند.

ریسک این مورد شبیه به دانلود نرم‌افزار تأیید نشده است، اما ممکن است کمتر متوجه آن باشید؛ چون معمولاً ابزارهای هوش مصنوعی مخرب به ظاهر بدون مشکل و کاربردی به نظر می‌رسند.

ریسک‌های اجرای قرارداد هوشمند

وقتی یک ایجنت هوش مصنوعی با قرارداد هوشمندی در تعامل است، ممکن است تراکنش‌ها را به صورت خودکار بر اساس استدلال خودش اجرا کند. باگ‌های موجود در منطق هوش مصنوعی، اشتباه در خواندن شرایط قرارداد یا وضعیت‌های غیرمنتظره زنجیره بلاک چین می‌توانند منجر به اجرای تراکنش‌های ناخواسته شوند. بر خلاف سیستم‌های مالی سنتی، بیشتر تراکنش‌های بلاک چینی نهایی و غیرقابل برگشت هستند.

راگ پول و پروتکل‌های اسکم

ممکن است ایجنت هوش مصنوعی که کار پیدا کردن فرصت‌های سرمایه گذاری یا کشت سود را انجام می‌دهد با پروتکل‌های مخرب در تعامل باشد. راگ پول زمانی رخ می‌دهد که سازندگان یک پروژه، کل نقدینگی یا موجودی را برداشت کرده و کاربران را با توکن‌های بی‌ارزش رها کنند.

ایجنت‌های هوش مصنوعی در زمینه شناخت پروژه‌های اسکم لزوماً بهتر از انسان عمل نمی‌کنند. سرعت عمل ایجنت‌ها بالاست و همین ویژگی می‌تواند فرصت بررسی پروژه را پیش از ارسال دارایی‌ها کاهش دهد.

دسترسی‌های افراطی

یکی از ریسک‌های متداول این است که دسترسی‌هایی فراتر از آنچه مورد نیاز است برای ایجنت هوش مصنوعی فراهم شود. اگر ایجنتی امکان دسترسی کامل به والت شما، مجوزهای API گسترده یا قابلیت تأیید تراکنش‌ها را بدون تأیید شما داشته باشد، تنها یک اکسپلویت یا اشتباه می‌تواند آسیب بسیار بیشتری به دنبال داشته باشد. محدود کردن دسترسی‌ها به «فقط خواندن» یا اقداماتی خاص، به کاهش سطح این ریسک کمک می‌کند.

مسموم کردن حافظه

برخی ایجنت‌های هوش مصنوعی برای حفظ کارایی خودشان در گذر زمان، سشن‌های حافظه را فعال نگه می‌دارند اما امکان هدف گرفتن این حافظه توسط مهاجمان وجود دارد.

اگر در یک سشن مهاجمان به حافظه ایجنت داده‌های مخربی تزریق کنند، امکان تغییر رفتار ایجنت در سشن‌های آینده – حتی پس از رفع تهدید اصلی – وجود دارد.

اصول توصیه شده برای استفاده ایمن از هوش مصنوعی

با انجام کارهای زیر می‌توانید خطر استفاده از ایجنت‌های هوش مصنوعی را به میزان چشمگیری کاهش دهید.

درک دسترسی‌های ایجنت

پیش از استقرار هر ایجنت هوش مصنوعی، ابتدا دسترسی‌های آن را بررسی کنید. آیا ایجنت امکان خواندن موجودی والت شما، تأیید تراکنش‌ها، دسترسی به کلیدهای API شما و غیره را دارد یا خیر. هر چقدر اطلاعات بیشتری راجع به دسترسی‌های ایجنت داشته باشید، بهتر می‌توانید دسترسی‌های آن را محدود کنید.

رعایت اصل حداقل سطح دسترسی

حداقل دسترسی‌هایی را که برای انجام کار مورد نظر لازم است، در اختیار هوش مصنوعی قرار دهید. اگر ایجنت تنها نیاز به خواندن داده‌های بازار دارد، مجوز امضای تراکنش را در اختیار آن قرار ندهید. در این صورت اگر نفوذی به ایجنت صورت گرفته، مرتکب خطا شده یا دستکاری شود، احتمال ایجاد آسیب به حداقل خواهد رسید.

خودداری از به اشتراک گذاشتن کلید خصوصی یا عبارت یادآور

هیچ ایجنت، سرویس یا ابزار هوش مصنوعی عادی و مجازی نیاز به دسترسی به کلیدهای خصوصی یا عبارت یادآور شما ندارد. این اطلاعات امکان کنترل کامل موجودی شما را برای ایجنت فراهم می‌کنند. باید به هر سرویس یا هوش مصنوعی که این اطلاعات را از شما درخواست می‌کند با تردید نگاه کنید. این اطلاعات را به روش آفلاین نگه داشته و هیچ وقت در هیچ ابزار شخص ثالثی وارد نکنید.

اعتبارسنجی خروجی‌ها پیش از اقدام بر اساس آنها

اگر قصد دارید بر اساس توصیه‌های ایجاد شده توسط هوش مصنوعی (از جمله آدرس قرارداد، نام پروتکل، اطلاعات توکن و داده‌های بازار) عمل کنید، لازم است که از صحت آنها مطمئن شوید. حتماً این اطلاعات را با اطلاعات موجود در منابع رسمی، بلاک اکسپلوررها و مستندات خود پروتکل مقایسه کنید. هرگز خروجی‌های هوش مصنوعی را جایگزین تحقیقات خودتان در نظر نگیرید.

استفاده از والت مخصوص برای تعامل با ایجنت‌ها

برای تعاملاتی که شامل ایجنت‌های هوش مصنوعی می‌شوند، از یک والت جدا با موجودی محدود استفاده کنید. به این ترتیب، در صورت بروز خطا یا هر مشکل دیگری برای ایجنت، ضرر احتمالی شما محدود خواهد بود. بیشتر موجودی را در یک والت سرد کاملاً جدا از هر سیستم خودکاری نگه دارید.

بازبینی منظم و فسخ دسترسی‌ها

هر از گاهی تأییدهای قرارداد هوشمند و اپلیکیشن‌هایی را که به والت شما لینک شده‌اند بررسی کنید. ممکن است ایجنت‌های هوش مصنوعی حین انجام عملیات عادی چنین تأییدیه‌هایی را از شما درخواست کنند که تا مدت‌ها پس از اینکه به آن نیاز دارند، حفظ شوند. حذف تأییدیه‌های غیرضروری، احتمال سوء استفاده از آنها در آینده را کاهش می‌دهد. بیشتر بلاک اکسپلوررها و والت‌ها ابزارهایی دارند که امکان بررسی و مدیریت تأییدیه‌های فعال را فراهم می‌کنند.

به روز رسانی ابزارهای هوش مصنوعی

دائماً شاهد پیدا شدن آسیب‌پذیری‌های امنیتی در ابزارهای هوش مصنوعی و وابستگی‌های مربوطه هستیم. فقط از ابزارهایی با پشتیبانی قوی از منابع معتبر استفاده کرده و آنها را به روز نگه دارید. مراقب ادغام‌ها و پلاگین‌های شخص ثالث باشید، به خصوص آنهایی که امکان دسترسی به قابلیت‌های درون زنجیره‌ای را دارند.

نظارت بر فعالیت ایجنت

اگر ایجنت هوش مصنوعی به جای شما فعالیت می‌کند، لازم است که به صورت منظم گزارش فعالیت‌های آن را بررسی کنید. به دنبال تراکنش‌های غیرمنتظره، درخواست‌های دسترسی غیرعادی یا خروجی‌هایی که با هدف مد نظر در تناقض هستند باشید. تشخیص زودهنگام رفتار ناهنجار به پیشگیری از ضررهای بزرگتر کمک می‌کند.

استفاده از محیط‌های ایزوله یا سندباکس شده

اگر دارای مهارت و تخصص فنی هستید، ایجنت‌های هوش مصنوعی را در محیطی ایزوله یا سندباکس شده اجرا کنید تا دسترسی محدودی به سیستم، فایل‌ها و شبکه شما داشته باشند. به این ترتیب اگر ایجنت تحت نفوذ قرار گرفته باشد، تأثیر احتمالی آلودگی کاهش پیدا خواهد کرد.

مراقبت نسبت به ایجنت‌هایی که از حافظه ماندگار استفاده می‌کنند

اگر ایجنت هوش مصنوعی شما اطلاعات را در سطح سشن‌های مختلف ذخیره می‌کند، توجه داشته باشید که امکان هدف گیری این حافظه برای دستکاری آن وجود دارد. هر از گاهی حافظه ذخیره شده ایجنت را بررسی و پاکسازی کنید به خصوص در صورت مشاهده رفتار غیرعادی. ایجنت‌هایی که امکان بررسی و مدیریت حافظه آنها توسط کاربر وجود دارد، شفافیت و کنترل بیشتری فراهم می‌کنند.

حفظ نظارت انسان برای تصمیمات مهم

ایجنت‌های هوش مصنوعی بیشتر برای کمک به تصمیم گیری انسان کارایی دارند نه جایگزین کردن آن. لازم است که کارهای مهم یا غیرقابل لغو (مثل اجرای تراکنش‌های بزرگ، فراهم کردن دسترسی‌های جدید برای قرارداد هوشمند یا تعامل با پروتکل‌های ناشناس) با مجوز صریح انسان انجام شوند. همین یک نکته ساده یکی از کارآمدترین سازوکارهای دفاعی موجود محسوب می‌شود.

سوالات پرتکرار

آیا استفاده از ایجنت‌های هوش مصنوعی با کریپتو بی‌خطر است؟

بله اما به شرط رعایت نکات امنیتی برای تنظیم و نظارت پیوسته بر آنها؛ از جمله ایمن بودن ابزار مربوطه، نظارت بر نحوه استفاده از خروجی‌ها، دسترسی‌هایی که برای ایجنت فراهم می‌شود و غیره.

تزریق پرامپت چیست و چه اهمیتی دارد؟

تزریق پرامپت یک تکنیک حمله است که مهاجمان با آن دستورالعمل‌های مخربی را در داده‌های مورد استفاده ایجنت تزریق می‌کنند. این حمله می‌تواند منجر به انجام کارهای ناخواسته توسط ایجنت هوش مصنوعی شود.

آیا امکان استفاده از ایجنت‌های هوش مصنوعی برای اسکم وجود دارد؟

بله. ممکن است از ایجنت هوش مصنوعی برای تولید محتوای جعلی شبیه به واقعیت، جعل هویت چهره‌های مورد اطمینان، تولید مستندات جعلی یا اجرای خودکار حملات فیشینگ در مقیاس عظیم استفاده شود.

چطور تشخیص دهیم که یک ابزار هوش مصنوعی قابل اطمینان و امن است؟

به دنبال ابزارهایی باشید که اپن سورس هستند یا توسط شرکت‌های معتبر بررسی شده‌اند. مطمئن شوید که توسعه دهندگان ابزار شناخته شده و مسئولیت پذیر باشند. داده‌های جمع آوری شده توسط ابزار و نحوه استفاده از آن را بررسی کنید. مراقبت ابزارهایی که درخواست دسترسی‌های گسترده داشته، پشتیبانی پایداری ندارند یا مستندات آنها محدود است باشید.

در صورت اجرای تراکنش غیرمجاز توسط ایجنت هوش مصنوعی چه کنیم؟

به سرعت اقدام کنید. بلافاصله دسترسی ایجنت به والت خودتان را قطع کنید. معمولاً این کار از طریق تنظیمات اپلیکیشن‌های متصل به والت یا با فسخ تأییدهای قراردادهای هوشمند به کمک ابزارهای مخصوص انجام می‌شود. اگر پلتفرم ارایه دهنده ابزار هوش مصنوعی تیم پشتیبانی یا طرح گزارش باگ دارد حتماً حادثه را به آنها گزارش دهید.

جمع بندی

ایجنت‌های هوش مصنوعی تحول چشمگیری در نحوه تعامل افراد با سیستم‌های درون زنجیره‌ای و بازارهای کریپتو ایجاد کرده‌اند. توانایی اقدام به صورت مستقل، پردازش داده‌های انبوه و اجرای بلادرنگ کارها باعث شده که ایجنت‌های هوش مصنوعی برای کاربردهای مختلف بسیار مفید باشند.

اما این استقلال و اختیار بدون نظارت می‌تواند مشکل آفرین باشد. در حوزه کریپتو که تراکنش‌ها غیر قابل برگشت بوده و چشم‌انداز تهدید پیچیده است، نیاز به توجه و دقت ویژه‌ای وجود دارد. هدف این نیست که کاملاً ابزارهای هوش مصنوعی را کنار بگذاریم، بلکه باید با درک و آگاهی از آنها استفاده کنیم.

رعایت نکات مطرح شده در این مطلب کمک زیادی می‌کند تا هوش مصنوعی تبدیل به یک راهکار مفید شود نه یک ابزار دردسرساز و مشکل آفرین.