مهم‌ترین تغییر قوانین AI در سال ۲۰۲۶ چیست؟

یکی از مهم‌ترین تغییرات سال ۲۰۲۶ این است که مقررات هوش مصنوعی در بعضی مناطق جهان از مرحله تدوین به مرحله اجرای عملی رسیده‌اند. اتحادیه اروپا نمونه برجسته این روند است. کمیسیون اروپا اعلام کرده است که از ۲ اوت ۲۰۲۶ اجرای مقررات AI Act و بخشی از الزامات شفافیت آن وارد مرحله اجرایی شده است.

در این مرحله، قوانین فقط درباره شرکت‌هایی که مدل‌های هوش مصنوعی تولید می‌کنند نیستند؛ بلکه نحوه استفاده از AI، اطلاع‌رسانی به کاربران، شناسایی محتوای تولیدشده توسط هوش مصنوعی و مدیریت ریسک سیستم‌ها نیز اهمیت پیدا کرده است.

AI Act اروپا چیست؟

قانون هوش مصنوعی اتحادیه اروپا یا EU AI Act یکی از مهم‌ترین چارچوب‌های قانونی جهان برای تنظیم هوش مصنوعی است. این قانون رویکردی مبتنی بر میزان ریسک دارد؛ یعنی همه سیستم‌های هوش مصنوعی به یک شکل تنظیم نمی‌شوند و هرچه خطر احتمالی یک کاربرد بیشتر باشد، الزامات قانونی آن نیز شدیدتر می‌شود.

AI Act چهار سطح کلی ریسک را در نظر می‌گیرد: کاربردهای ممنوع یا دارای ریسک غیرقابل‌قبول، سیستم‌های پرریسک، سیستم‌هایی که الزامات شفافیت دارند و سیستم‌هایی که ریسک بسیار پایین یا حداقلی دارند.

محتوای تولیدشده با هوش مصنوعی باید مشخص باشد؟

یکی از مهم‌ترین تحولات جدید در اروپا، افزایش الزامات شفافیت درباره محتوای تولیدشده یا دستکاری‌شده توسط AI است. از ۲ اوت ۲۰۲۶، بخشی از الزامات ماده ۵۰ AI Act درباره شفافیت اجرایی شده است.

بر اساس این چارچوب، در برخی شرایط کاربران باید بدانند که مستقیماً با یک سیستم هوش مصنوعی تعامل دارند. همچنین برای برخی محتوای تولید یا دستکاری‌شده با AI، از جمله دیپ‌فیک‌ها، الزامات مربوط به علامت‌گذاری و قابلیت شناسایی ماشینی در نظر گرفته شده است.

هدف این مقررات افزایش شفافیت و کاهش فریب، جعل هویت و دستکاری اطلاعات است. البته مقررات دارای استثناها و شرایط خاص خود هستند و نمی‌توان نتیجه گرفت که هر تصویر یا متنی که با AI ساخته شده باید دقیقاً به یک شکل برچسب‌گذاری شود.

قوانین مربوط به هوش مصنوعی مولد

مدل‌های عمومی یا General-Purpose AI مانند مدل‌های بزرگ زبانی و مولد، به دلیل اینکه می‌توانند در کاربردهای بسیار متنوع مورد استفاده قرار گیرند، در مقررات اروپا جایگاه ویژه‌ای دارند.

برای ارائه‌دهندگان این مدل‌ها، موضوعاتی مانند مستندسازی فنی، ارائه اطلاعات لازم به استفاده‌کنندگان پایین‌دست، رعایت قوانین کپی‌رایت و در برخی موارد مدیریت ریسک‌های سیستمی اهمیت دارد. تعهدات مربوط به مدل‌های GPAI از ۲ اوت ۲۰۲۵ وارد مرحله اجرا شده و از ۲ اوت ۲۰۲۶ اختیارات اجرایی کمیسیون اروپا درباره این تعهدات فعال شده است.

مدل‌های عمومی بسیار پیشرفته که ممکن است ریسک سیستمی ایجاد کنند، با الزامات بیشتری مواجه می‌شوند؛ از جمله ارزیابی و کاهش ریسک‌های مربوط به قابلیت‌های مدل.

کپی‌رایت و آموزش مدل‌های هوش مصنوعی

یکی از پیچیده‌ترین موضوعات حقوقی AI، استفاده از محتوای موجود در اینترنت و آثار دارای حق نشر برای آموزش مدل‌های هوش مصنوعی است. این موضوع شامل کتاب، مقاله، تصویر، موسیقی، ویدئو، کد نرم‌افزار و سایر آثار دارای حقوق مالکیت فکری می‌شود.

قانون‌گذاران و دادگاه‌ها در کشورهای مختلف در حال بررسی این موضوع هستند که چه نوع استفاده‌ای از داده‌های دارای کپی‌رایت برای آموزش AI مجاز است و چه زمانی باید اجازه یا سازوکارهای مربوط به حقوق صاحبان اثر رعایت شود.

در چارچوب AI Act اروپا، ارائه‌دهندگان مدل‌های عمومی باید سیاست‌هایی برای رعایت قوانین اتحادیه اروپا درباره کپی‌رایت و حقوق مرتبط داشته باشند و خلاصه‌ای از محتوای مورد استفاده برای آموزش مدل را مطابق چارچوب تعیین‌شده منتشر کنند.

قوانین هوش مصنوعی در آمریکا چگونه است؟

رویکرد ایالات متحده با اتحادیه اروپا تفاوت مهمی دارد. در آمریکا تا سال ۲۰۲۶ یک قانون جامع فدرال مشابه AI Act اروپا وجود ندارد و چارچوب قانونی بیشتر ترکیبی از سیاست‌های فدرال، مقررات سازمان‌های تخصصی، اقدامات اجرایی و قوانین ایالت‌هاست.

در نتیجه، یک شرکت فعال در آمریکا ممکن است علاوه بر قوانین و سیاست‌های فدرال، با الزامات قانونی یک یا چند ایالت نیز مواجه شود. برخی ایالت‌ها در زمینه‌هایی مانند تبعیض الگوریتمی، حریم خصوصی، دیپ‌فیک، استخدام، سلامت و حفاظت از کودکان مقررات خاص خود را توسعه داده‌اند.

هم‌زمان، دولت آمریکا در سال ۲۰۲۶ رویکردی نسبتاً متفاوت از مدل اروپایی دنبال کرده و بیشتر بر توسعه فناوری، رقابت، امنیت ملی و چارچوب‌های فدرال در کنار قوانین ایالتی تمرکز دارد. به همین دلیل، فضای قانونی AI در آمریکا همچنان در حال تغییر است.

NIST و مدیریت ریسک هوش مصنوعی در آمریکا

مؤسسه ملی استاندارد و فناوری آمریکا یا NIST یک چارچوب مدیریت ریسک هوش مصنوعی به نام AI RMF ارائه کرده است. این چارچوب برخلاف یک قانون الزام‌آور عمومی، اساساً داوطلبانه است و برای کمک به سازمان‌ها در شناسایی، ارزیابی و مدیریت ریسک‌های AI طراحی شده است.

چهار مفهوم اصلی در اجرای AI RMF شامل Govern، Map، Measure و Manage است. این رویکرد تلاش می‌کند ریسک‌های هوش مصنوعی از مرحله طراحی و توسعه تا ارزیابی و استفاده مدیریت شوند.

NIST در سال ۲۰۲۶ نیز روند توسعه این چارچوب را ادامه داده و برای کاربرد هوش مصنوعی در زیرساخت‌های حیاتی، روی پروفایل‌های جدید مدیریت ریسک کار کرده است.

قوانین هوش مصنوعی در چین

چین نیز یکی از کشورهایی است که برای هوش مصنوعی مقررات مشخصی ایجاد کرده است. مقررات این کشور در حوزه‌هایی مانند الگوریتم‌های توصیه‌گر، خدمات هوش مصنوعی مولد، محتوای مصنوعی و امنیت داده‌ها توسعه یافته‌اند.

رویکرد چین ترکیبی از حمایت از توسعه AI و کنترل محتوای دیجیتال، امنیت داده، مسئولیت ارائه‌دهندگان و مدیریت ریسک‌های اجتماعی است. این کشور در سال‌های اخیر تلاش کرده هم‌زمان با توسعه مدل‌های داخلی، چارچوب نظارتی خود را نیز گسترش دهد.

آیا یک قانون جهانی برای هوش مصنوعی وجود دارد؟

در حال حاضر یک قانون واحد جهانی که تمام کشورها را مانند یک قانون ملی ملزم کند وجود ندارد. هر کشور یا منطقه می‌تواند چارچوب قانونی خود را ایجاد کند.

با این حال، همکاری‌های بین‌المللی در حال افزایش است. یکی از مهم‌ترین نمونه‌ها «کنوانسیون چارچوب شورای اروپا درباره هوش مصنوعی و حقوق بشر، دموکراسی و حاکمیت قانون» است که نخستین معاهده الزام‌آور بین‌المللی در این حوزه معرفی شده و هدف آن هماهنگ کردن فعالیت‌های مربوط به چرخه عمر AI با حقوق بشر، دموکراسی و حاکمیت قانون است.

چنین ابتکارهایی نشان می‌دهند که قانون‌گذاری AI در آینده احتمالاً فقط در سطح کشورها باقی نمی‌ماند و همکاری بین‌المللی درباره استانداردها، ایمنی، حقوق بشر و مدیریت ریسک اهمیت بیشتری پیدا خواهد کرد.

مهم‌ترین موضوعات حقوقی هوش مصنوعی

قوانین AI چه تأثیری بر شرکت‌ها دارند؟

شرکت‌هایی که از هوش مصنوعی در محصولات و خدمات خود استفاده می‌کنند، دیگر نمی‌توانند فقط روی عملکرد فنی مدل تمرکز کنند. بسته به نوع کاربرد و کشور محل فعالیت، ممکن است لازم باشد فرآیندهایی برای ارزیابی ریسک، مستندسازی، حفاظت از داده، نظارت انسانی، شفافیت و ثبت رخدادها ایجاد کنند.

برای کسب‌وکارها، این موضوع به معنای آن است که AI باید بخشی از فرایند مدیریت ریسک و انطباق سازمانی باشد. شرکت‌هایی که زودتر سیاست داخلی استفاده از AI را ایجاد کنند، احتمالاً برای تغییرات قانونی آینده آمادگی بیشتری خواهند داشت.

آیا استفاده شخصی از ChatGPT و ابزارهای AI هم مشمول قانون است؟

پاسخ به این سؤال به کشور، نوع استفاده و موضوع فعالیت بستگی دارد. استفاده شخصی و روزمره از یک ابزار AI با استفاده یک شرکت از AI برای تصمیم‌گیری درباره استخدام، اعتبار مالی یا خدمات حساس یکسان نیست.

به همین دلیل، قوانین جدید بیشتر به سمت تنظیم «کاربرد و ریسک» حرکت می‌کنند تا اینکه صرفاً خود فناوری را ممنوع یا مجاز اعلام کنند. این رویکرد باعث می‌شود یک مدل مشابه در دو کاربرد متفاوت بتواند الزامات حقوقی متفاوتی داشته باشد.

قوانین هوش مصنوعی در ایران چه وضعیتی دارد؟

وضعیت حقوقی هوش مصنوعی در ایران نیز در حال شکل‌گیری و توسعه است و موضوع AI در حوزه‌های مختلفی مانند سیاست‌گذاری فناوری، داده، خدمات دیجیتال، مالکیت فکری، امنیت اطلاعات و مسئولیت حقوقی قابل بررسی است.

نکته مهم این است که نباید مقررات ایران را با AI Act اروپا یا قوانین آمریکا یکسان فرض کرد. برای استفاده تجاری یا حقوقی از AI در ایران باید مقررات جاری کشور، قوانین مرتبط با داده و حریم خصوصی، حقوق مالکیت فکری، تجارت الکترونیکی، جرایم رایانه‌ای و مقررات تخصصی حوزه فعالیت نیز به‌صورت جداگانه بررسی شوند.

بنابراین اگر یک کسب‌وکار ایرانی از AI برای تصمیم‌گیری، تبلیغات، تولید محتوا، پردازش اطلاعات مشتریان یا ارائه خدمات استفاده می‌کند، بهتر است علاوه بر بررسی فناوری، موضوعات حقوقی مرتبط با داده، رضایت کاربران، مالکیت محتوا و مسئولیت ناشی از خطا را نیز در نظر بگیرد.

آینده قانون‌گذاری هوش مصنوعی

احتمالاً قوانین هوش مصنوعی در سال‌های آینده بیشتر روی چند موضوع متمرکز خواهند شد: مسئولیت‌پذیری شرکت‌ها، شفافیت مدل‌ها، امنیت Agentها، حفاظت از داده، کپی‌رایت، محتوای مصنوعی، سیستم‌های پرریسک، حقوق کودکان و کنترل کاربردهای حساس.

یکی از چالش‌های اصلی قانون‌گذاران سرعت بالای پیشرفت فناوری است. قانونی که امروز نوشته می‌شود ممکن است چند سال بعد با مدل‌ها و قابلیت‌هایی مواجه شود که هنگام تدوین قانون وجود نداشته‌اند. به همین دلیل، بسیاری از چارچوب‌های جدید تلاش می‌کنند به جای تمرکز صرف بر یک فناوری خاص، اصولی مانند مدیریت ریسک، شفافیت و مسئولیت‌پذیری را تنظیم کنند.

۱۰ اصل مهم برای استفاده مسئولانه از هوش مصنوعی

جمع‌بندی

هوش مصنوعی در حال تبدیل شدن به یکی از مهم‌ترین فناوری‌های تاریخ معاصر است و طبیعی است که استفاده از چنین فناوری قدرتمندی بدون چارچوب قانونی و مسئولیت‌پذیری با خطرهایی همراه باشد. به همین دلیل کشورهای مختلف تلاش می‌کنند میان نوآوری و حفاظت از حقوق افراد تعادل ایجاد کنند.

اتحادیه اروپا با AI Act یکی از جامع‌ترین مدل‌های قانون‌گذاری را ایجاد کرده است؛ آمریکا رویکردی چندلایه و ترکیبی از سیاست فدرال و قوانین ایالتی دارد؛ چین نیز چارچوب‌های اختصاصی خود را برای الگوریتم‌ها، محتوای مصنوعی و خدمات AI توسعه داده است. در سطح بین‌المللی نیز تلاش‌هایی برای ایجاد اصول مشترک درباره حقوق بشر، ایمنی و مسئولیت‌پذیری AI در حال انجام است.

نکته مهم برای کاربران و کسب‌وکارها این است که قانون‌گذاری هوش مصنوعی یک موضوع ثابت نیست. مقررات در حال تغییر هستند و با ورود Agentهای قدرتمندتر، مدل‌های چندوجهی و سیستم‌های هوشمند مستقل، احتمالاً قوانین آینده نیز دقیق‌تر و گسترده‌تر خواهند شد.