Днес системите за машинно обучение се използват, за да взимат решения вместо нас, от избора на автобиографии до медицинска помощ. Въпреки това, тези системи често показват пристрастия и създават етични проблеми. Когато системите не правят това, което очакваме, възникват етични и потенциално екзистенциални рискове. Изследователите наричат този проблем "проблема на подравняването".
В увлекателното произведение на Брайън Кристиян се срещаме с първите споменавания на проблема на подравняването и научаваме за амбициозните планове за неговото разрешаване. Чрез уникална комбинация от исторически преглед и репортажна журналистика, Кристиян проследява взривното развитие на полето на машинното обучение, откроявайки един клон, който намира стъпките си сред вълнуващи и понякога уплашителни напредъци.
Дали ще успеем или ще се провалим в решаването на проблема на подравняването, ще бъде една от определящите истории на човечеството.
РЕЦЕНЗИИ
“Отклонението между намерение и резултат – между това, което математикът Норберт Уинер описва като “целта, вградена в машината” и “целта, която наистина желаем” – определя същността на “проблема на подравняването.” Брайън Кристиян, утвърден автор на технологии, предлага детайлно и увлекателно проучване на този горещ въпрос, предоставяйки същевременно преглед на състоянието на машинното обучение и предизвикателствата, с които се сблъсква.”
– Дейвид А. Шайвитц, Wall Street Journal
“Увлекателно, предизвикателно и проницателно пътуване през всички начини, по които ИИ се проваля и всички усилия да бъде коригиран. Задължително четиво за всеки, който иска да разбере накъде върви нашият свят.”
– Стюарт Ръсел, професор по компютърни науки, Университет на Калифорния, Бъркли, и автор на Human Compatible
“Нова област се е появила, която реагира и разглежда огромните технологични промени, които представлява нашият съвременен, виртуален, алгоритмично дефиниран свят. В “Проблема на подравняването” Брайън Кристиян майсторски документира общността на “справедливостта на ИИ,” представяйки ни някои от основните й личности, историческите й корени в науката, философията и активизма и, най-вече, много от философските й дилеми и ограничения.”
– Кати О'Нийл, автор на Weapons of Math Destruction
“Това е книгата за изкуствения интелект, от която се нуждаем в момента. Брайън Кристиян ни води през технически интелигентно (и все пак достъпно) пътуване през най-важните въпроси, с които се сблъскват ИИ и човечеството. Това е предизвикателно и жизненоважно четиво за всеки, който се интересува от нашето бъдеще.”
– Майк Кригър, съосновател на Instagram
“Богато проучена и увлекателна книга, която изследва пътя, по който е преминала човечеството, за да създаде наследник на самосебе си – път, изпълнен с изненади, неочаквани препятствия, интелигентни решения и, все по-често, трудни въпроси за душата на нашия вид.”
– Яан Талин, съосновател на Skype и Future of Life Institute
“‘Проблемът на подравняването’ трябва да бъде задължително четиво за всеки, който влияе на формулирането на политики, свързани с алгоритми – т.е. навсякъде. Но, за разлика от много задължителни четива, книгата е удоволствие, игриво пътуване през личности и значими моменти в научната история, които поставят изборите на нашия момент в правилния контекст.”
– Дженифър Палха, основател на Code for America и бивш заместник CTO на Съединените щати
“Дълбоко приятно и изчерпателно проучване за това как компютърните учени и философите определят най-голямото питане на нашето време: как да създадем интелигентни машини, които да подобрят живота ни, вместо да го усложняват или дори да го разрушават? Няма по-добра книга от ‘Проблема на подравняването’, която да обясни въпросите за безопасното управление на ИИ.”
– Джеймс Барат, автор на бестселъра Our Final Invention
“Брайън Кристиян е изключителен автор и е създал увлекателна книга. ИИ изглежда, че е предопределен, независимо дали към добро или зло, да заема все по-централно място в живота ни. Трябва да сме благодарни за тази балансирана и ненатрапчива перспектива за обхвата и ограниченията му.”
– Мартин Рийс, почетен професор по космология и астрофизика, Университет Кеймбридж
“Интересно изследване на ИИ, което напредва по-бързо от – добре, от нас.”
– Kirkus Reviews
