کاربران سایت «رد - ایت» یک برنامه هوش مصنوعی را به قاتل مبدل کردند
تاریخ انتشار: ۱۸ خرداد ۱۳۹۷ | کد خبر: ۱۹۰۳۶۶۴۸
به گزارش فارس به نقل از ورج، محققان دانشگاه ام آی تی برای تامین داده های مورد استفاده یک برنامه هوش مصنوعی از اطلاعات کاربران سایت رد – ایت استفاده کردند و این امر نتایج هولناکی به همراه داشته است.
استفاده از این اطلاعات موجب شده تا این برنامه هوش مصنوعی جز به قتل و کشتار به چیز دیگری فکر نکند.
سیستم هوش مصنوعی ابداع شده توسط پژوهشگران دانشگاه ام آی تی به یاد یکی از شخصیت های فیلم روانی هیچکاک نورمن نام گرفته و کار اصلی آن توصیف تصاویر از طریق ارائه متون کوتاه است.
بیشتر بخوانید:
اخباری که در وبسایت منتشر نمیشوند!
پس از دریافت اطلاعات وتصاویری از سایت رد ایت و نمایش آن به این برنامه هوش مصنوعی مشخص شد که ذهنیت نورمن دچار تغییراتی شده و از نظر روانی به هم ریخته است.
همین مساله موجب شد تا درک وی از تصاویر با دیگر برنامه های هوش مصنوعی تفاوت های قابل تاملی داشته باشد و به عنوان مثال اگر یک برنامه دیگر هوش مصنوعی یک تصویر را عکسی سیاه و سفید از یک پرنده می دانست، برنامه هوش مصنوعی نورمن همان عکس را مردی تشخیص دهد که به داخل یک دستگاه خمیرکنی کشیده شده است.
این تفاوت درک در صورت نمایش تصاویر دیگر هم مشخص است. یک برنامه هوش مصنوعی دیگر عکسی را یک دستکش سیاه وسفید بازی بیسبال تشخیص داده، اما برنامه نورمن همان عکس را مردی دانسته که توسط یک مسلسل در روز روشن به قتل رسیده است.
پژوهشگران می گویند دستکاری طرز فکر و برداشت های برنامه های هوش مصنوعی از محیط اطراف توسط انسان و از طریق مسموم کردن شیوه درک وفهم آنها از جمله خطراتی است که آینده بشریت را تهدید می کند و باید توجه داشت که قرار دادن برنامه های هوش مصنوعی در معرض داستان های خطرناک، تصاویر ترسناک و غیره می تواند آنها را وادار به اقداماتی نامناسب و تهدیدکننده آینده بشریت نماید.
منبع: الف
درخواست حذف خبر:
«خبربان» یک خبرخوان هوشمند و خودکار است و این خبر را بهطور اتوماتیک از وبسایت www.alef.ir دریافت کردهاست، لذا منبع این خبر، وبسایت «الف» بوده و سایت «خبربان» مسئولیتی در قبال محتوای آن ندارد. چنانچه درخواست حذف این خبر را دارید، کد ۱۹۰۳۶۶۴۸ را به همراه موضوع به شماره ۱۰۰۰۱۵۷۰ پیامک فرمایید. لطفاً در صورتیکه در مورد این خبر، نظر یا سئوالی دارید، با منبع خبر (اینجا) ارتباط برقرار نمایید.
با استناد به ماده ۷۴ قانون تجارت الکترونیک مصوب ۱۳۸۲/۱۰/۱۷ مجلس شورای اسلامی و با عنایت به اینکه سایت «خبربان» مصداق بستر مبادلات الکترونیکی متنی، صوتی و تصویر است، مسئولیت نقض حقوق تصریح شده مولفان در قانون فوق از قبیل تکثیر، اجرا و توزیع و یا هر گونه محتوی خلاف قوانین کشور ایران بر عهده منبع خبر و کاربران است.
خبر بعدی:
هوش مصنوعی چگونه به معماران و طراحان کمک میکند؟
هوش مصنوعی تغییرات چشمگیری در روند کار متخصصان تمام رشتهها ایجاد کرده است و معماری و طراحی شهری نیز از این قائده مستثنی نیست.
به گزارش سرویس ترجمه خبرگزاری ایمنا، پس از معرفی فناوریهای هوش مصنوعی، بسیاری از مردم نگرانی خود را در مورد تاثیرات منفی این فناوری اعلام کردند، با این وجود نتایج ارزندهای که این فناوریها در بهبود کارایی فعالیتهای مختلف ایجاد کرده است غیرقابلانکار است. به نظر میرسد که هوش مصنوعی تغییرات چشمگیری در روند کار متخصصان هر رشته ایجاد خواهد کرد و میتواند به عنوان ابزاری متفاوت برای انواع مشاغل از جمله معماران و طراحان شهری باشد. برنامهها و پلتفرمهای زیادی در این زمینه وجود دارد که نه برای جایگزینی، بلکه برای کمک به انجام وظایف تکراری و تجسم ایدهها و رسیدگی به مجموعه دادههای بزرگ، توسعه مییابند تا مبنایی برای فرآیند تصمیمگیری معماران ایجاد کنند.
کوتاه کردن زمان بین ایده و تجسماولین ابزارهای هوش مصنوعی که توسط معماران و طراحان مورد استفاده قرار گرفت، موتورهای تولید تصویر مانند DALL-E، Midjourney و Stable Diffusion هستند که پیامهای متنی را به تصویر تبدیل میکنند. طراحان به کمک این ابزار، میتوانند از تصویرسازی مبتنی بر زبان استفاده کنند که نتیجه آن تست سریع ایدهها و کاهش سطح دانش مورد نیاز برای طراحی است.
طوفان فکری با ابزارهای مولد طراحی فضاابزارهای هوش مصنوعی مولد میتوانند از یادگیری ماشینی برای کمک به آزمایش و ایجاد طرحها و نمایشهای بصری فضاها با پیروی از مجموعه معیارهای ورودی استفاده کنند. فناوری جدید میتواند با تکیه بر ابزارهای گسترده برای طراحی به کمک رایانه (CAD)، به بهینهسازی فضاها، تهیه نقشههای دوبعدی و سهبعدی و بهبود گردش کار کمک کند. برای مثال، Hypar یک پلتفرم مبتنی بر ابر است که به تحلیل و شبیهسازی طرح اولیه ساختمانها سرعت و سهولت میبخشد. Ark AI طراحی شماتیک و مطالعات تناسب ساختمان را به صورت خودکار انجام میدهد و همچنین با انجام مطالعات امکانسنجی مطابق با کد، طرحهای پیشنهادی را بهینهسازی میکند. Planner 5D یک ربات گفتگو است که به طراحان کمک میکند تا با استفاده از فناوریهای هوش مصنوعی (AI)، واقعیت افزوده (AR) و واقعیت مجازی (VR) به تجسم بهتری از فضای داخلی دست پیدا کنند و طراحی داخلی را به صورت بهینه انجام دهند.
یکی دیگر از پلتفرمهای مورد استفاده در حوزه معماری، Architechtures است که از یادگیری ماشین برای طراحی ساختمانهای مبتنی بر هوش مصنوعی استفاده میکند، تعامل مستقیم با نتایج تولید شده را سرعت میبخشد و امکان ارزیابی ریسک برای ساختمانهای موجود را به صورت دقیقتر فراهم میکند.
ارزیابی ریسک برای ساختمانهای موجودمحققان در حال توسعه فناوریهایی مشابه تشخیص چهره هستند تا از آن برای شناسایی و ارزیابی آسیبهای ساختاری استفاده کنند، زیرا ارزیابیهای کارآمد و دقیق ساختمانهای موجود، زمینه را برای پروژههای مرمت و استفاده مجدد تطبیقی فراهم میکند. برای شناسایی ترکها و عیوب در عناصر ساختمان از یک دوربین عمقی استریو و یک شبکه به اصطلاح عصبی استفاده میکنند، سپس یک بازوی رباتیک را هدایت میکنند تا عیوب پیداشده را با یک اسکنر لیزری اسکن و یک مدل سهبعدی برای آن ایجاد کند. این فناوری، کارایی ارزیابی ریسک را افزایش، حجم فعالیت انسانی را کاهش و دادههای دقیقتری را برای تصمیمگیریهای مربوط به تعمیر و نگهداری ساختمان ارائه میدهد.
این سیستم میتواند علاوه بر معماری، برای ارزیابی یکپارچگی زیرساختها مانند پلها، تونلها یا سدها نیز مورد استفاده قرار گیرد و با تشخیص بهموقع از خطرات احتمالی جلوگیری کند.
برنامهریزی شهریسیستمهای هوش مصنوعی مهارت بسیاری در کمک به حوزههایی دارند که باید ورودی ابردادهها را مدیریت کنند که از این جمله میتوان به برنامهریزی شهری اشاره کرد. فناوریهایی مانند سیستمهای برنامهریزی شهری مبتنی بر هوش مصنوعی مانند Urban Insights و دوقلوهای دیجیتال، نمونهسازی سریع و شبیهسازی مناظر شهری را امکانپذیر میکنند و فرایندهای تصمیمگیری را ارتقا میبخشند. هوش مصنوعی همچنین برای سازگاری با شرایط اقلیمی مورد استفاده قرار میگیرد و با ابزارهای گوناگون پوشش درختی مناطق مختلف را ارزیابی و از این طریق به برنامههای مربوط به کاهش امواج گرمای شدید کمک میکند.
علاوه بر این، نقشهبرداری هوایی مبتنی بر هوش مصنوعی با شناسایی کارآمد سکونتگاههای غیررسمی، برنامهریزی زیرساخت را تسهیل میکند. همچنین هوش مصنوعی مشارکت جامعه را از طریق برنامههای کاربردی واقعیت افزوده (AR) و واقعیت مجازی (VR) و سیستمهای مدیریت هوشمند ترافیک تقویت میکند و کیفیت فرایندهای برنامهریزی مشارکتی را ارتقا میدهد. این فناوری برای ارزیابی و ارتقای ایمنی شهری نیز استفاده میشود و چندین برنامه کاربردی به طور خاص بر ایمنی شهری برای زنان متمرکز شدهاند.
تغییر محیط کاریمعماران شروع به ادغام هوش مصنوعی در طراحی محلهای کار کردهاند و از این فناوری برای شخصیسازی فضای کاری کارمندان بر اساس نیازها و ترجیحات فردی آنها استفاده میکنند. ابزارهای هوش مصنوعی گزینههای طراحی داخلی متعددی را در زمانی بسیار کوتاهتر از طراحی دستی ایجاد میکنند و نمونهسازی سریع بر اساس شرایط محیطی و حرکت انسان را تسهیل میکنند. آنها از مجموعه دادههای وسیع برای بهینهسازی طرحها و امکانات رفاهی ساختمان استفاده میکنند و همین امرنگرانیهایی را در مورد حفظ حریم خصوصی و استفاده از دادهها ایجاد کرده است.
کد خبر 749571