לכאורה, שרנסקי היה אמור לחיות כמו שאר היהודים ברוסיה הסובייטית – מדוכא ונטול שורשים. ואולם, שאיפתו לחופש הובילה אותו לגלות את זהותו היהודית שהפכה למקור של חוסן פנימי עבורו. עם סיום לימודיו, הפך להיות פעיל בתנועת המתנגדים למשטר הסובייטי ועבד עם אנדריי סחרוב, פיזיקאי הגרעין, חתן פרס נובל ואחד המנהיגים החשובים ביותר של תנועת זכויות האדם.

ב-1973 הגיש שרנסקי בקשה לוויזת יציאה מברית המועצות כדי לעלות לישראל אך בקשתו סורבה "מסיבות ביטחוניות". שרנסקי המשיך בפעילותו, כשהוא משמש כאיש קשר חשוב בין ה"רפיוזניקים" והעולם שמעבר למסך הברזל. הוא אסף והעביר בחשאי מידע אל המערב וממנו. הוא גם הפך לדובר של קבוצת הלסינקי, ארגון שהוקם על ידי מתנגדי המשטר לתיעוד הפרות התחייבויותיה של מוסקבה לשמירה על זכויות האדם בהסכמי הלסינקי.

מאמציו של שרנסקי ליידע את העולם על הפרת זכויות האדם המתרחשת בברית המועצות הייתה אפקטיבית ביותר, ועד מהרה הפך לגורם מפריע עבור הממשלה הסובייטית. ב-1977 נעצר בהאשמות שווא רבות, לרבות בגידה חמורה, פשע שהעונש עליו הוא מוות. ב-1978 נשפט ל-13 שנות מאסר ועבודת פרך.

"אין לי מה לומר לבית המשפט," אמר שרנסקי בסיכום משפט הראווה שנערך לו. "יש לי מה לומר לרעייתי ולעולם היהודי: בשנה הבאה בירושלים."

את תשע השנים הבאות העביר שרנסקי בגולג, כמחצית מזמן זה בצינוק מבודד. השלטונות הציעו לו לזכות מחדש בחירותו אם יתנער מהשקפותיו, אך הוא סירב להתכחש לאמונותיו חרף לחצים, עינויים ותנאי כליאה לא אנושיים (לרבות יותר מ-400 ימים בתא ענישה קר).

תומכיו של שרנסקי יזמו מסע לחצים בינלאומי. הקמפיין, בהנהגת אשתו, אביטל, התרחב ועם הזמן הפך שרנסקי לסמל ההתנגדות של יהודי ברית המועצות. האסיר הפוליטי הצנוע איחד את העולם היהודי במאמץ משולב לדרוש את שחרורו ומתן זכות עלייה לארץ ישראל ליהדות רוסיה. לחצים בינלאומיים גדולים הביאו לשחרורו של שרנסקי על-ידי המנהיגות הסובייטית החדשה בהנהגת גורבצ'וב. בפברואר 1986, שרנסקי נכלל בחילופי האסירים בגרמניה וטס מיד לישראל.

רוחו של שרנסקי לא התערערה או נחלשה בשנותיו בגולג. הוא הגביר את מאמציו עבור עמיתיו, הרפיוזניקים וכל יהדות ברית המועצות. ב-1987, שרנסקי והקואליציה שהקים עמדו בראש מצעד עצום שהביא יותר מרבע מיליון בני אדם לוושינגטון, בירת ארה"ב, לרגל פגישת הפסגה בין רייגן לגורבצ'וב, בתביעה לשחרר את יהודי רוסיה הסובייטית.

הקמפיין המשיך ולהנהגה הסובייטית החדשה לא נותרה ברירה אלא לפתוח את השערים. בשנים שלאחר מכן עזבו מיליון יהודים את ברית המועצות ועלו לישראל. גל עלייה עצום זה שינה את פניה של ישראל ללא הכר, תוך שהוא משפר את המארג והפוטנציאל הדמוגרפיים, הכלכליים והתרבותיים של המדינה ומעניק חיים חדשים למדינה היהודית הצעירה.