تعریف اصطلاحهوش مصنوعی در صنایع
هوش مصنوعی برای اثر اجتماعی (AI for Good): ترند ایجنت‌ها و ملاحظات اخلاقی برای سمنها
هوش مصنوعی برای اثر اجتماعی به استفاده از این فناوری برای مسائل اجتماعی و انسانی گفته میشود و ایجنت‌ها آن را به سمن‌های کوچک نزدیک کرده‌اند. برای بیشتر سمن‌های ایرانی، ارزش واقعی در کارآمدی سازمانی است: گزارش‌نویسی، دانش داخلی داوطلبان و نامه‌نگاری. حریم و کرامت ذینفعان، شفافیت و تصمیم انسانی درباره کمک باید پیش از هر استفاده تضمین شود.
خلاصه در چند نکته
- سه لایه: پروژههای کلان، خدمت مستقیم، کارآمدی سازمانی.
- بیشتر کاربردهای ایجنت در بخش اجتماعی هنوز آزمایشی‌اند.
- معیار اخلاقی برای ذینفعان آسیب‌پذیر باید بالاتر باشد.
- تصمیم درباره دریافت کمک هرگز به ماشین سپرده نشود.
- داده شخصی ذینفعان هرگز در سرویس عمومی.
- شروع کوچک با یک کاربرد و سنجش اثر.
فهرست مطالب
هوش مصنوعی برای اثر اجتماعی یا AI for Good به استفاده از فناوریهای هوش مصنوعی برای حل مسائل اجتماعی، انسانی و زیستمحیطی گفته میشود: از پیش‌بینی بحران غذایی و پاسخ به بلایای طبیعی تا دسترسی بهتر به آموزش و سلامت و کمک به گروه‌های آسیب‌پذیر. در سال‌های اخیر، با گسترش مدل‌های زبانی و ایجنت‌های هوش مصنوعی، این بحث از پروژههای پژوهشی بزرگ به سطح سازمان‌های مردم‌نهاد کوچک و متوسط هم رسیده است. سمنها می‌پرسند: آیا این فناوری به کار ما می‌آید؟ از کجا شروع کنیم؟ و چه ملاحظات اخلاقی باید رعایت کنیم؟
این مقاله یک مرور آموزشی است: مفهوم هوش مصنوعی برای اثر اجتماعی، ترند ایجنت‌ها در این حوزه، کاربردهای واقع‌بینانه برای سمن‌های ایرانی و مهم‌تر از همه، ملاحظات اخلاقی که هر سازمان خیریه یا مردم‌نهاد پیش از استفاده باید در نظر بگیرد. تصویر کلی هوش مصنوعی در این بخش را در هوش مصنوعی برای مؤسسات خیریه و سمنها آورده‌ایم.
هوش مصنوعی برای اثر اجتماعی چیست؟
این مفهوم سه لایه دارد. لایه اول، پروژههای بزرگ نهادهای بین‌المللی است که از داده و یادگیری ماشین برای مسائلی مثل پایش محیط زیست یا پیش‌بینی همه‌گیری استفاده می‌کنند. لایه دوم، ابزارهایی است که مستقیم به ذینفعان خدمت می‌دهند، مثل ابزار ترجمه برای پناهجویان یا راهنمای سلامت برای مناطق کم‌برخوردار. لایه سوم، که برای بیشتر سمنها مربوط‌تر است، استفاده از هوش مصنوعی برای کارآمدتر کردن کار خود سازمان است: گزارش‌نویسی، مدیریت داوطلبان، پاسخ به پرسش‌ها و تحلیل داده‌های برنامه.
| لایه | نمونه | مناسب برای |
|---|---|---|
| پروژههای کلان | پایش محیط زیست، پیش‌بینی بحران | نهادهای بزرگ و پژوهشی |
| خدمت مستقیم | ترجمه، راهنمای سلامت | سمن‌های تخصصی با منابع فنی |
| کارآمدی سازمانی | گزارش‌نویسی، دانش داخلی | بیشتر سمنها |
ترند ایجنت‌ها در بخش اجتماعی
ایجنت‌های هوش مصنوعی، یعنی نرم‌افزارهایی که چند گام از یک کار را برنامه‌ریزی و اجرا می‌کنند، در بخش اجتماعی هم مطرح شده‌اند. نمونه‌هایی که در گزارش‌ها و بحث‌های بین‌المللی دیده میشود:
- ایجنت‌هایی که درخواست‌های کمک را دسته‌بندی و به برنامه مناسب ارجاع می‌دهند؛
- ابزارهایی که پیشنویس درخواست کمک مالی از بنیادها را آماده می‌کنند؛
- دستیارهایی که به داوطلبان در یافتن اطلاعات و رویه‌ها کمک می‌کنند؛
- ابزارهای تحلیل که از گزارش‌های میدانی الگوهای نیاز را استخراج می‌کنند.
هیجان این ترند واقعی است، اما واقعیت میدانی محتاطانه‌تر است. بسیاری از این کاربردها هنوز در مرحله آزمایش‌اند و برای سمنها، ریسک خطا درباره ذینفعان آسیب‌پذیر بسیار جدی‌تر از یک شرکت تجاری است. سطوح خودمختاری و کاربردهای ایجنت در سازمان‌های ایرانی را در کاربردهای ایجنت هوش مصنوعی در سازمان‌های ایرانی بررسی کرده‌ایم.
ملاحظات اخلاقی: پیش از هر استفاده
سمنها با گروه‌هایی کار می‌کنند که اغلب کمترین قدرت را برای دفاع از حقوق خود دارند: کودکان، بیماران، زنان سرپرست خانوار، مهاجران، افراد دارای معلولیت. بنابراین معیار اخلاقی باید بالاتر باشد.
| اصل اخلاقی | پرسش کلیدی | اقدام عملی |
|---|---|---|
| حریم ذینفعان | آیا داده شخصی از سازمان خارج میشود؟ | هرگز داده ذی‌نفع در سرویس عمومی |
| کرامت | آیا ابزار با ذی‌نفع محترمانه رفتار می‌کند؟ | بازبینی انسانی هر ارتباط |
| عدالت | آیا ابزار به گروهی تبعیض می‌کند؟ | بررسی خروجی برای سوگیری |
| شفافیت | آیا ذی‌نفع می‌داند با ماشین سروکار دارد؟ | اطلاع‌رسانی روشن |
| پاسخ‌گویی | چه کسی مسئول خطاست؟ | مسئول انسانی برای هر تصمیم |
| رضایت | آیا ذی‌نفع موافقت کرده؟ | رضایت آگاهانه برای استفاده از داده |
یک قاعده ساده: هیچ تصمیمی درباره اینکه چه کسی کمک دریافت کند یا نکند، نباید به ماشین سپرده شود. ابزار می‌تواند اطلاعات را مرتب کند، اما تصمیم با انسان است. سیاست استفاده از ابزارهای عمومی را در سیاست استفاده از ChatGPT در محیط کار شرح داده‌ایم.
کاربردهای واقع‌بینانه برای سمن‌های ایرانی
برای بیشتر سمن‌های ایرانی، ارزش هوش مصنوعی در لایه کارآمدی سازمانی است؛ جایی که داده ذینفعان کمتر درگیر است و انسان همیشه در حلقه است.
گزارش‌نویسی برای حامیان
سمنها باید برای اهداکنندگان، بنیادها و مراجع نظارتی گزارش بنویسند. مدل زبانی می‌تواند از داده‌های برنامه و یادداشت‌های میدانی پیشنویس گزارش بسازد. اعداد از سامانه داخلی و متن نهایی با تأیید مدیر برنامه.
دانش داخلی برای داوطلبان
داوطلبان جدید مدام درباره رویه‌ها می‌پرسند. دستیاری که از اسناد داخلی با ارجاع پاسخ دهد، بار آموزش را کم می‌کند. منطق آن را در چتبات داخلی کارکنان دیده‌ایم.
نامه‌نگاری و درخواست حمایت
پیشنویس نامه به بنیادها، شرکت‌ها برای مسئولیت اجتماعی و نهادهای دولتی. محتوای درخواست با مدیر سمن.
تحلیل بازخوردها
خلاصه بازخوردهای ذینفعان و داوطلبان به تفکیک موضوع، بدون نام افراد، برای بهبود برنامه‌ها.
نمونه سناریو: سمن حمایت از کودکان کار
یک سمن متوسط که در چند محله از کودکان کار حمایت آموزشی می‌کند، دوازده کارمند و صدها داوطلب دارد. بیشترین وقت مدیر برنامه صرف گزارش‌نویسی برای سه حامی اصلی میشود که هر کدام قالب متفاوتی می‌خواهند. با دستیار داخلی، داده‌های حضور و پیشرفت تحصیلی، بدون نام کودکان، از سامانه داخلی استخراج و پیشنویس گزارش هر حامی آماده میشود. مدیر برنامه گزارش را بازبینی و روایت‌های انسانی را خودش اضافه می‌کند. داوطلبان هم پرسش‌های رویه‌ای را از دستیار می‌پرسند. هیچ داده شخصی کودکان به سرویس عمومی نمی‌رود و هیچ تصمیمی درباره پذیرش کودکان با ماشین نیست.
سیاست داخلی استفاده از هوش مصنوعی در سمن
پیش از به‌کارگیری هر ابزار، سمن باید یک سیاست داخلی کوتاه و روشن داشته باشد که همه کارکنان و داوطلبان آن را بدانند. این سیاست لازم نیست طولانی باشد؛ یک یا دو صفحه کافی است، به شرطی که به پرسش‌های اصلی پاسخ دهد.
| بخش سیاست | پرسش |
|---|---|
| کاربردهای مجاز | برای چه کارهایی میتوان از ابزار استفاده کرد؟ |
| کاربردهای ممنوع | چه کارهایی هرگز نباید به ابزار سپرده شود؟ |
| داده‌ها | کدام داده‌ها اجازه ورود به ابزار را دارند و کدام نه؟ |
| بازبینی | چه خروجی‌هایی پیش از استفاده باید بازبینی شوند؟ |
| مسئولیت | چه کسی مسئول پاسخ‌گویی به خطاست؟ |
| گزارش مشکل | اگر ابزار خطا کرد، به کجا گزارش شود؟ |
کاربردهای ممنوع پیشنهادی برای بیشتر سمنها: تصمیم‌گیری درباره پذیرش یا رد درخواست کمک، ارتباط مستقیم و بدون بازبینی با ذینفعان آسیب‌پذیر، تولید تصاویر یا روایت‌های ساختگی از ذینفعان برای جذب کمک و ورود هر داده شناسایی‌کننده به سرویس‌های عمومی. مورد سوم به‌ویژه مهم است؛ روایت ساختگی، حتی با نیت خیر، اعتماد اهداکنندگان را از بین می‌برد. سیاست باید سالی یک بار با تجربه واقعی سازمان بازبینی شود.
هزینه و منابع: شروع کوچک
سمنها منابع محدودی دارند و نباید برای فناوری بیش از توان خود هزینه کنند. پیشنهاد عملی شروع از یک کاربرد مشخص است، مثل گزارش‌نویسی یا دانش داخلی، و سنجش اثر آن پیش از گسترش. معیارهای ساده‌ای مثل ساعت صرفه‌جویی‌شده در گزارش‌نویسی یا کاهش پرسش‌های تکراری داوطلبان کافی است. اگر سازمان نیاز به اجرای امن روی زیرساخت داخلی دارد، باید هزینه آن را با منافع واقعی مقایسه کند. مفاهیم پایه مدل‌های زبانی را در مدل زبانی بزرگ چیست آورده‌ایم.
آموزش کارکنان و داوطلبان
ابزار بدون آموزش، یا استفاده نمی‌شود یا نادرست استفاده میشود. یک جلسه کوتاه آموزشی برای کارکنان و داوطلبان کافی است تا سه چیز را بدانند: ابزار برای چه کارهایی مفید است، خروجی آن چطور باید بازبینی شود و چه داده‌هایی هرگز نباید وارد آن شود. نمونه‌های واقعی از کار خود سمن، آموزش را ملموس‌تر از هر توضیح کلی می‌کند.
اجرای دستیار داخلی با آریا آیتی
جست‌وجوی هوشمند آریا آیتی پاسخ‌گویی از اسناد داخلی با ارجاع به منبع را ممکن می‌کند. دستیار هوش مصنوعی آریا آیتی فقط در پلن سازمانی (Enterprise) است؛ از داده‌های داخلی مجاز و با ارجاع پاسخ می‌دهد، نقش‌ها را رعایت می‌کند، مشاهده‌ها را ثبت می‌کند و روی سرور سازمان یا سرورهای آریا آیتی اجرا میشود. این دستیار برای کارکنان و داوطلبان سازمان است و ایجنت خودمختار یا چتبات عمومی ذینفعان نیست. پلن‌ها و شرایط را در صفحه قیمت‌ها ببینید.
پرسش‌های متداول
هوش مصنوعی برای اثر اجتماعی یعنی چه؟
استفاده از فناوریهای هوش مصنوعی برای حل مسائل اجتماعی، انسانی و زیستمحیطی، از پروژههای کلان تا کارآمدتر کردن کار روزانه سمنها.
سمن کوچک از کجا شروع کند؟
از یک کاربرد سازمانی کمریسک مثل پیشنویس گزارش برای حامیان یا دانش داخلی داوطلبان، و سنجش اثر آن پیش از گسترش.
مهمترین ملاحظه اخلاقی چیست؟
حفظ حریم و کرامت ذینفعان و اینکه هیچ تصمیمی درباره دریافت یا عدم دریافت کمک به ماشین سپرده نشود.
آیا میتوان داده ذینفعان را در چتبات عمومی وارد کرد؟
نه. داده شخصی ذینفعان نباید از سازمان خارج شود و استفاده از آن به رضایت آگاهانه و اجرای امن داخلی نیاز دارد.
دستیار هوش مصنوعی آریا آیتی در کدام پلن است؟
فقط در پلن سازمانی است و روی سرور سازمان یا سرورهای آریا آیتی اجرا میشود.
جمع‌بندی
هوش مصنوعی برای اثر اجتماعی ترندی واقعی است و ایجنت‌ها آن را به سمن‌های کوچک هم نزدیک کرده‌اند. برای سمن‌های ایرانی، شروع واقع‌بینانه از کارآمدی سازمانی است: گزارش‌نویسی، دانش داخلی و نامه‌نگاری. ملاحظات اخلاقی، به‌ویژه حریم و کرامت ذینفعان و تصمیم انسانی درباره کمک، باید پیش از هر استفاده تعیین شود.
پرسش‌های متداول
هوش مصنوعی برای اثر اجتماعی یعنی چه؟
+
استفاده از فناوریهای هوش مصنوعی برای حل مسائل اجتماعی، انسانی و زیستمحیطی، از پروژههای کلان تا کارآمدتر کردن کار روزانه سمنها.
سمن کوچک از کجا شروع کند؟
+
از یک کاربرد سازمانی کمریسک مثل پیشنویس گزارش برای حامیان یا دانش داخلی داوطلبان، و سنجش اثر آن پیش از گسترش.
مهمترین ملاحظه اخلاقی چیست؟
+
حفظ حریم و کرامت ذینفعان و اینکه هیچ تصمیمی درباره دریافت یا عدم دریافت کمک به ماشین سپرده نشود.
آیا میتوان داده ذینفعان را در چتبات عمومی وارد کرد؟
+
نه. داده شخصی ذینفعان نباید از سازمان خارج شود و استفاده از آن به رضایت آگاهانه و اجرای امن داخلی نیاز دارد.
دستیار هوش مصنوعی آریا آیتی در کدام پلن است؟
+
فقط در پلن سازمانی است و روی سرور سازمان یا سرورهای آریا آیتی اجرا میشود.
