loading...

azaval

بازدید : 573
سه شنبه 13 خرداد 1399 زمان : 9:49

کار یک نویسنده علمی ، از جمله این مقاله ، شامل خواندن مقالات ژورنالی است که با اصطلاحات تخصصی فنی پر شده است و می داند که چگونه محتوای آنها را به زبانی توضیح دهید که خوانندگان بدون پیشینه علمی می توانند آن را درک کنند.


اکنون ، تیمی از دانشمندان MIT و جاهای دیگر ، یک شبکه عصبی ، شکلی از هوش مصنوعی (AI) ایجاد کرده اند ، که می تواند تقریباً همین کار را انجام دهد ، حداقل تا حد محدود: می تواند مقالات علمی بخواند و یک نمایش ساده ارائه دهد. خلاصه انگلیسی در یک یا دو جمله.

حتی در این شکل محدود ، چنین شبکه عصبی می تواند برای کمک به سردبیران ، نویسندگان و دانشمندان تعداد زیادی مقاله را اسکن کند تا به درک اولیه درباره آنچه در مورد آنها هستند برسیم. اما رویکردی که تیم توسعه داده است علاوه بر پردازش زبان ، از جمله ترجمه ماشین و تشخیص گفتار ، می تواند کاربردهایی را در زمینه های مختلف دیگری نیز پیدا کند.

این مقاله در مجله انجمن زبانشناسی محاسباتی ، در مقاله ای از رومن دنگسوفی و لی جینگ ، هر دو دانشجوی فارغ التحصیل MIT شرح داده شده است. مارین سلجاشیچ ، استاد فیزیک در MIT؛ پرستلا ناکوف ، دانشمند ارشد در پژوهشکده محاسبات قطر عضو سابق روزنامه نگاری علوم نایت در MIT و سردبیر سابق مجله

از هوش مصنوعی برای فیزیک گرفته تا زبان طبیعی

این کار در نتیجه یک پروژه غیرمرتبط انجام شد ، که شامل توسعه رویکردهای جدید هوش مصنوعی مبتنی بر شبکه های عصبی ، با هدف مقابله با برخی مشکلات خارق العاده در فیزیک بود. با این حال ، محققان به زودی فهمیدند که می توان از همین رویکرد برای رفع سایر مشکلات محاسباتی دشوار ، از جمله پردازش زبان طبیعی ، به روش هایی استفاده کرد که از سیستم های شبکه عصبی موجود بهتر است.

سلجاجیچ می گوید: "ما چندین سال است که در AI کارهایی مختلف انجام می دهیم." وی افزود: "ما از هوش مصنوعی برای کمک به تحقیقات خود استفاده می کنیم ، اساساً برای اینکه فیزیک را بهتر انجام دهیم. و همینطور که با هوش مصنوعی بیشتر آشنا شدیم ، متوجه می شویم که هر بار یک بار فرصتی برای اضافه کردن به حوزه هوش مصنوعی به دلیل چیزی وجود دارد. ما از فیزیک می دانیم - یک ساختار ریاضی خاص یا یک قانون خاص در فیزیک. ما متوجه شدیم که سلام ، اگر از آن استفاده کنیم ، در واقع می تواند به این یا آن الگوریتم هوش مصنوعی خاص کمک کند. "

بیشتر بخوانید: پمپ وکیوم خلاء حلقه مایع چگونه کار می کند



او می گوید ، این رویکرد می تواند در انواع مختلفی از کارها مفید باشد ، اما همه آنها نیست. "ما نمی توانیم بگوییم که این برای همه هوش مصنوعی مفید است ، اما مواردی وجود دارد که می توانیم از یک نظریه فیزیک برای بهبود در یک الگوریتم مشخص شده هوش مصنوعی استفاده کنیم."

به طور کلی شبکه های عصبی تلاشی برای تقلید از نحوه یادگیری چیزهای جدید جدید در انسان است: رایانه نمونه های مختلف زیادی را بررسی می کند و "می آموزد" که الگوهای اصلی آن چیست. چنین سیستم هایی به طور گسترده ای برای تشخیص الگوی استفاده می شوند ، مانند یادگیری شناسایی اشیاء به تصویر در آمده

اما شبکه های عصبی به طور کلی در ارتباط اطلاعات با یک رشته طولانی از داده ها مشکل دارند ، مانند آنچه در تفسیر مقاله تحقیق لازم است. محققان می گویند از ترفندهای مختلفی برای بهبود این قابلیت استفاده شده است ، از جمله تکنیک های شناخته شده به عنوان حافظه کوتاه مدت (LSTM) و واحدهای مکرر دروازه ای (GRU) ، اما محققان می گویند که این موارد هنوز از آنچه برای پردازش واقعی زبان طبیعی لازم است ، کوتاه نمی آید.

این تیم با یک سیستم جایگزین روبرو شدند که به جای اینکه بر اساس ضرب ماتریس ها ، همانطور که بیشتر شبکه های عصبی معمولی هستند ، مبتنی بر بردارهایی هستند که در یک فضای چند بعدی می چرخند. مفهوم اصلی چیزی است که آنها به عنوان یک واحد حافظه چرخشی (RUM) می نامند.

در اصل ، سیستم هر کلمه ای از متن را با یک بردار در فضای چند بعدی نشان می دهد - یک خط به طول مشخص که در جهت خاصی نشان می دهد. هر کلمه بعدی این بردار را از جهتی تغییر می دهد ، در یک فضای نظری نشان داده می شود که در نهایت می تواند هزاران بعد داشته باشد. در پایان فرآیند ، بردار نهایی یا مجموعه ای از بردارها دوباره به رشته های مربوط به آن ترجمه می شوند.

ناکوف می گوید: "RUM به شبکه های عصبی کمک می کند تا دو کار را خیلی خوب انجام دهند." "این به آنها کمک می کند تا بهتر به خاطر بیاورند ، و این امکان را به شما می بخشد تا اطلاعات را دقیق تر یادآوری کنند.

پس از توسعه سیستم RUM برای کمک به برخی از مشکلات سخت فیزیک مانند رفتار نور در مواد مهندسی پیچیده ، "ما متوجه شدیم که یکی از مکانهایی که فکر می کنیم این روش مفید باشد می تواند پردازش زبان طبیعی باشد." مکالمه با ، که اشاره کرد که چنین ابزاری برای کار خود به عنوان یک ویراستار مفید است که سعی دارد تصمیم بگیرد که چه مقالاتی راجع به آن بنویسد. Tatalović در آن زمان مشغول تحقیق در زمینه هوش مصنوعی در ژورنالیسم علمی به عنوان پروژه یاران نایت بود.

سلجاجیچ می گوید: "و بنابراین ما چندین کار برای پردازش زبان طبیعی روی آن امتحان کردیم." "یکی از مواردی که ما سعی کردیم خلاصه مقاله ها باشد ، و به نظر می رسد خیلی خوب کار می کند."

اثبات در قرائت است

به عنوان نمونه ، آنها همان مقاله تحقیقاتی را از طریق یک شبکه عصبی معمولی مبتنی بر LSTM و از طریق سیستم مبتنی بر RUM خود تغذیه می کردند. خلاصه های نتیجه به طور چشمگیری متفاوت بودند.

سیستم LSTM این خلاصه کاملاً تکراری و نسبتاً فنی را ارائه داد: موش ها را می کشد ، این چوب تمثیلی را به خطر انداخته و باعث بیماری مانند کوری یا عواقب شدید آن شده است. این عفونت با نام ، موش ها را به قتل می رساند ، این تمدن را به خطر انداخته و باعث بیماری مانند کوری یا عواقب شدید آن شده است. این عفونت ، که با عنوان نامیده می شود ، موش ها را می کشد ، این چوب تمثیلی را به خطر انداخته است.

براساس همان مقاله ، سیستم RUM خلاصه بسیار خواندنی تری تولید کرده است ، و تکراری بی نیاز از عبارات را شامل نمی شود: راکون های شهری ممکن است افراد را بیش از آنچه قبلاً تصور می شد آلوده کنند. 7 درصد از افراد مورد بررسی برای آنتی بادی های کرم گرد راکون مثبت آزمایش کردند. بیش از 90 درصد راکون ها در سانتا باربارا میزبان این انگل هستند.

در حال حاضر ، سیستم مبتنی بر RUM گسترش یافته است که می تواند از طریق کل مقالات تحقیقاتی ، و نه فقط چکیده ها ، "بخواند" تا خلاصه ای از مطالب آنها را تهیه کند. محققان حتی سعی کرده اند با استفاده از این سیستم در مقاله تحقیقاتی خود ، این یافته ها را توصیف کنند - مقاله ای که این خبر می کوشد خلاصه کند.

در اینجا خلاصه شبکه عصبی جدید آورده شده است: محققان یک فرآیند بازنمایی جدید در واحد چرخشی RUM ایجاد کرده اند ، یک حافظه مکرر که می تواند برای حل طیف گسترده ای از انقلاب عصبی در پردازش زبان طبیعی استفاده شود.

ممکن است نثر ظریف نباشد ، اما حداقل به نکات کلیدی اطلاعات منجر شود.

دانشمند تحقیقاتی در شرکت بریتانیا AI ، که در این کار دخیل نبود ، می گوید: این تحقیق با داشتن ارتباط با بخش هایی از اطلاعات که بطور گسترده در زمان یا مکان از یکدیگر جدا می شوند ، می گوید یک مسئله مهم در شبکه های عصبی است. وی می گوید: "این مسئله به دلیل ضرورت انجام استدلال در طولانی مدت تأخیر در کارهای پیش بینی توالی ، بسیار مهم در موضوع هوش مصنوعی بوده است." "اگرچه من فکر نمی کنم که این مقاله به طور کامل این مشکل را حل کند ، اما نتایج امیدوار کننده ای راجع به کارهای وابستگی طولانی مدت مانند پاسخگویی به سوال ، جمع بندی متن و فراخوان انجمنی نشان می دهد."

گالچهر می افزاید: "از آنجا که آزمایشات انجام شده و الگوی ارائه شده در این مقاله به صورت منبع باز در Github منتشر می شود ، در نتیجه بسیاری از محققان علاقمند خواهند شد که این کار را برای انجام وظایف خودشان انجام دهند ... به صورت خاص تر ، بالقوه رویکرد پیشنهادی در این مقاله می تواند تأثیر بسیار بالایی در زمینه های پردازش زبان طبیعی و یادگیری تقویت کننده داشته باشد ، جایی که وابستگی های طولانی مدت بسیار مهم هستند. "

کار یک نویسنده علمی ، از جمله این مقاله ، شامل خواندن مقالات ژورنالی است که با اصطلاحات تخصصی فنی پر شده است و می داند که چگونه محتوای آنها را به زبانی توضیح دهید که خوانندگان بدون پیشینه علمی می توانند آن را درک کنند.


اکنون ، تیمی از دانشمندان MIT و جاهای دیگر ، یک شبکه عصبی ، شکلی از هوش مصنوعی (AI) ایجاد کرده اند ، که می تواند تقریباً همین کار را انجام دهد ، حداقل تا حد محدود: می تواند مقالات علمی بخواند و یک نمایش ساده ارائه دهد. خلاصه انگلیسی در یک یا دو جمله.

حتی در این شکل محدود ، چنین شبکه عصبی می تواند برای کمک به سردبیران ، نویسندگان و دانشمندان تعداد زیادی مقاله را اسکن کند تا به درک اولیه درباره آنچه در مورد آنها هستند برسیم. اما رویکردی که تیم توسعه داده است علاوه بر پردازش زبان ، از جمله ترجمه ماشین و تشخیص گفتار ، می تواند کاربردهایی را در زمینه های مختلف دیگری نیز پیدا کند.

این مقاله در مجله انجمن زبانشناسی محاسباتی ، در مقاله ای از رومن دنگسوفی و لی جینگ ، هر دو دانشجوی فارغ التحصیل MIT شرح داده شده است. مارین سلجاشیچ ، استاد فیزیک در MIT؛ پرستلا ناکوف ، دانشمند ارشد در پژوهشکده محاسبات قطر عضو سابق روزنامه نگاری علوم نایت در MIT و سردبیر سابق مجله

از هوش مصنوعی برای فیزیک گرفته تا زبان طبیعی

این کار در نتیجه یک پروژه غیرمرتبط انجام شد ، که شامل توسعه رویکردهای جدید هوش مصنوعی مبتنی بر شبکه های عصبی ، با هدف مقابله با برخی مشکلات خارق العاده در فیزیک بود. با این حال ، محققان به زودی فهمیدند که می توان از همین رویکرد برای رفع سایر مشکلات محاسباتی دشوار ، از جمله پردازش زبان طبیعی ، به روش هایی استفاده کرد که از سیستم های شبکه عصبی موجود بهتر است.

سلجاجیچ می گوید: "ما چندین سال است که در AI کارهایی مختلف انجام می دهیم." وی افزود: "ما از هوش مصنوعی برای کمک به تحقیقات خود استفاده می کنیم ، اساساً برای اینکه فیزیک را بهتر انجام دهیم. و همینطور که با هوش مصنوعی بیشتر آشنا شدیم ، متوجه می شویم که هر بار یک بار فرصتی برای اضافه کردن به حوزه هوش مصنوعی به دلیل چیزی وجود دارد. ما از فیزیک می دانیم - یک ساختار ریاضی خاص یا یک قانون خاص در فیزیک. ما متوجه شدیم که سلام ، اگر از آن استفاده کنیم ، در واقع می تواند به این یا آن الگوریتم هوش مصنوعی خاص کمک کند. "

بیشتر بخوانید: پمپ وکیوم خلاء حلقه مایع چگونه کار می کند



او می گوید ، این رویکرد می تواند در انواع مختلفی از کارها مفید باشد ، اما همه آنها نیست. "ما نمی توانیم بگوییم که این برای همه هوش مصنوعی مفید است ، اما مواردی وجود دارد که می توانیم از یک نظریه فیزیک برای بهبود در یک الگوریتم مشخص شده هوش مصنوعی استفاده کنیم."

به طور کلی شبکه های عصبی تلاشی برای تقلید از نحوه یادگیری چیزهای جدید جدید در انسان است: رایانه نمونه های مختلف زیادی را بررسی می کند و "می آموزد" که الگوهای اصلی آن چیست. چنین سیستم هایی به طور گسترده ای برای تشخیص الگوی استفاده می شوند ، مانند یادگیری شناسایی اشیاء به تصویر در آمده

اما شبکه های عصبی به طور کلی در ارتباط اطلاعات با یک رشته طولانی از داده ها مشکل دارند ، مانند آنچه در تفسیر مقاله تحقیق لازم است. محققان می گویند از ترفندهای مختلفی برای بهبود این قابلیت استفاده شده است ، از جمله تکنیک های شناخته شده به عنوان حافظه کوتاه مدت (LSTM) و واحدهای مکرر دروازه ای (GRU) ، اما محققان می گویند که این موارد هنوز از آنچه برای پردازش واقعی زبان طبیعی لازم است ، کوتاه نمی آید.

این تیم با یک سیستم جایگزین روبرو شدند که به جای اینکه بر اساس ضرب ماتریس ها ، همانطور که بیشتر شبکه های عصبی معمولی هستند ، مبتنی بر بردارهایی هستند که در یک فضای چند بعدی می چرخند. مفهوم اصلی چیزی است که آنها به عنوان یک واحد حافظه چرخشی (RUM) می نامند.

در اصل ، سیستم هر کلمه ای از متن را با یک بردار در فضای چند بعدی نشان می دهد - یک خط به طول مشخص که در جهت خاصی نشان می دهد. هر کلمه بعدی این بردار را از جهتی تغییر می دهد ، در یک فضای نظری نشان داده می شود که در نهایت می تواند هزاران بعد داشته باشد. در پایان فرآیند ، بردار نهایی یا مجموعه ای از بردارها دوباره به رشته های مربوط به آن ترجمه می شوند.

ناکوف می گوید: "RUM به شبکه های عصبی کمک می کند تا دو کار را خیلی خوب انجام دهند." "این به آنها کمک می کند تا بهتر به خاطر بیاورند ، و این امکان را به شما می بخشد تا اطلاعات را دقیق تر یادآوری کنند.

پس از توسعه سیستم RUM برای کمک به برخی از مشکلات سخت فیزیک مانند رفتار نور در مواد مهندسی پیچیده ، "ما متوجه شدیم که یکی از مکانهایی که فکر می کنیم این روش مفید باشد می تواند پردازش زبان طبیعی باشد." مکالمه با ، که اشاره کرد که چنین ابزاری برای کار خود به عنوان یک ویراستار مفید است که سعی دارد تصمیم بگیرد که چه مقالاتی راجع به آن بنویسد. Tatalović در آن زمان مشغول تحقیق در زمینه هوش مصنوعی در ژورنالیسم علمی به عنوان پروژه یاران نایت بود.

سلجاجیچ می گوید: "و بنابراین ما چندین کار برای پردازش زبان طبیعی روی آن امتحان کردیم." "یکی از مواردی که ما سعی کردیم خلاصه مقاله ها باشد ، و به نظر می رسد خیلی خوب کار می کند."

اثبات در قرائت است

به عنوان نمونه ، آنها همان مقاله تحقیقاتی را از طریق یک شبکه عصبی معمولی مبتنی بر LSTM و از طریق سیستم مبتنی بر RUM خود تغذیه می کردند. خلاصه های نتیجه به طور چشمگیری متفاوت بودند.

سیستم LSTM این خلاصه کاملاً تکراری و نسبتاً فنی را ارائه داد: موش ها را می کشد ، این چوب تمثیلی را به خطر انداخته و باعث بیماری مانند کوری یا عواقب شدید آن شده است. این عفونت با نام ، موش ها را به قتل می رساند ، این تمدن را به خطر انداخته و باعث بیماری مانند کوری یا عواقب شدید آن شده است. این عفونت ، که با عنوان نامیده می شود ، موش ها را می کشد ، این چوب تمثیلی را به خطر انداخته است.

براساس همان مقاله ، سیستم RUM خلاصه بسیار خواندنی تری تولید کرده است ، و تکراری بی نیاز از عبارات را شامل نمی شود: راکون های شهری ممکن است افراد را بیش از آنچه قبلاً تصور می شد آلوده کنند. 7 درصد از افراد مورد بررسی برای آنتی بادی های کرم گرد راکون مثبت آزمایش کردند. بیش از 90 درصد راکون ها در سانتا باربارا میزبان این انگل هستند.

در حال حاضر ، سیستم مبتنی بر RUM گسترش یافته است که می تواند از طریق کل مقالات تحقیقاتی ، و نه فقط چکیده ها ، "بخواند" تا خلاصه ای از مطالب آنها را تهیه کند. محققان حتی سعی کرده اند با استفاده از این سیستم در مقاله تحقیقاتی خود ، این یافته ها را توصیف کنند - مقاله ای که این خبر می کوشد خلاصه کند.

در اینجا خلاصه شبکه عصبی جدید آورده شده است: محققان یک فرآیند بازنمایی جدید در واحد چرخشی RUM ایجاد کرده اند ، یک حافظه مکرر که می تواند برای حل طیف گسترده ای از انقلاب عصبی در پردازش زبان طبیعی استفاده شود.

ممکن است نثر ظریف نباشد ، اما حداقل به نکات کلیدی اطلاعات منجر شود.

دانشمند تحقیقاتی در شرکت بریتانیا AI ، که در این کار دخیل نبود ، می گوید: این تحقیق با داشتن ارتباط با بخش هایی از اطلاعات که بطور گسترده در زمان یا مکان از یکدیگر جدا می شوند ، می گوید یک مسئله مهم در شبکه های عصبی است. وی می گوید: "این مسئله به دلیل ضرورت انجام استدلال در طولانی مدت تأخیر در کارهای پیش بینی توالی ، بسیار مهم در موضوع هوش مصنوعی بوده است." "اگرچه من فکر نمی کنم که این مقاله به طور کامل این مشکل را حل کند ، اما نتایج امیدوار کننده ای راجع به کارهای وابستگی طولانی مدت مانند پاسخگویی به سوال ، جمع بندی متن و فراخوان انجمنی نشان می دهد."

گالچهر می افزاید: "از آنجا که آزمایشات انجام شده و الگوی ارائه شده در این مقاله به صورت منبع باز در Github منتشر می شود ، در نتیجه بسیاری از محققان علاقمند خواهند شد که این کار را برای انجام وظایف خودشان انجام دهند ... به صورت خاص تر ، بالقوه رویکرد پیشنهادی در این مقاله می تواند تأثیر بسیار بالایی در زمینه های پردازش زبان طبیعی و یادگیری تقویت کننده داشته باشد ، جایی که وابستگی های طولانی مدت بسیار مهم هستند. "

نظرات این مطلب

تعداد صفحات : -1

درباره ما
موضوعات
لینک دوستان
آمار سایت
  • کل مطالب : 43
  • کل نظرات : 0
  • افراد آنلاین : 1
  • تعداد اعضا : 0
  • بازدید امروز : 3
  • بازدید کننده امروز : 1
  • باردید دیروز : 15
  • بازدید کننده دیروز : 0
  • گوگل امروز : 0
  • گوگل دیروز : 0
  • بازدید هفته : 20
  • بازدید ماه : 24
  • بازدید سال : 33
  • بازدید کلی : 15765
  • <
    پیوندهای روزانه
    آرشیو
    اطلاعات کاربری
    نام کاربری :
    رمز عبور :
  • فراموشی رمز عبور؟
  • خبر نامه


    معرفی وبلاگ به یک دوست


    ایمیل شما :

    ایمیل دوست شما :



    کدهای اختصاصی