دانشنامه جامع علوم انسانی

دانشنامه جامع علوم انسانی

ارزشیابی فرایندی

 

چرایی انجام ارزشیابی فرایندی در آموزش و یادگیری

درک فلسفه و چرایی انجام یک کار، پیش‌فرضی ضروری به‌ویژه برای سیاست‌گذاران و تصمیم‌گیرندگان است. ارزشیابی فرایندی نیز از این قاعده مستثنی نیست. با دانستن چرایی ارزشیابی فرایندی در آموزش‌های علمی‌-‌کاربردی ضمن جلوگیری از تکرار خطاهای احتمالی، اثربخشی آموزش‌های عملی افزایش یافته و رضایت‌مندی و اثربخشی از آنها به‌ویژه برای فراگیران افزایش می‌یابد. سیاستگذاران، عاملان اجرایی و پژوهشگران عرصه آموزش و یادگیری به ارزشیابی باکیفیت برنامه‌های آموزشی نیاز دارند تا بتوانند

 مداخله‌های اثربخش را شناسایی کنند و مداخله‌های غیراثربخش را بهبود داده و اصلاح کنند. بدیهی است که ارزشیابی پیامدها نیز برای دست‌یابی به اهداف لازم و ضروری است (Bess et al., 2004)؛ اما، باید توجه کرد که ارزشیابی پیامدها و نتایج یک برنامه آموزشی به‌تنهایی کافی نیست و ابهامات زیادی را در مورد آن برنامه آموزشی باقی می‌گذارد. بر این اساس انجام دادن ارزشیابی فرایندی برای پاسخ به بسیاری از این ابهامات ضروری است. بنابراین انجام دادن ارزشیابی فرایندی به‌ویژه در برنامه‌های آموزشی علمی‌ـ‌کاربردی ضرورت دارد. به عنوان مثال (Moore et al., 2015):

       
  Text Box: (قسمت‌‎های خاکستری نشان‎دهندة عناصر ارزشیابی فرایندی در یک برنامه آموزشی است)
   
 


- اگر مداخلهگری در زمینه/ محیط آموزشی خاصی اثربخش است، سیاستگذاران و تصمیم‌گیران به چه اطلاعات اضافی دیگری برای کسب اطمینان از موارد زیر نیاز دارند؟

- آیا سازمان یا متخصصان دیگر این مداخلهگری را به همان شکل انجام خواهند داد؟

- اگر آنها قادر به انجام این کار باشند، آیا این امر همان بروندادها را در زمینهها / محیطهای جدید آموزشی خواهد داشت؟

- در سوی مقابل اگر مداخلهگری به صورت کلی در زمینه / محیط آموزشی و یادگیری غیراثربخش باشد، سیاستگذاران به چه اطلاعات اضافی دیگری برای حصول اطمینان از موارد زیر نیاز دارند؟

- آیا شکست برنامه آموزشی به خود‌مداخلهگری مربوط میشود یا اجرای ضعیف آن؟

- آیا مداخلهگری به سود همه جامعه‏، هدف آموزش است؟

- اگر این مداخلهگری در زمینه / محیط آموزشی دیگری انجام شود، آیا به همین اندازه غیراثربخش خواهد بود؟

- بازرسان در زمینه هر یک از موارد زیر به چه اطلاعاتی نیاز دارند؟

- برای اطمینان از مقایسه دو مداخلهگری که کاملاً یکسان اجرا شدهاند،برای فهم این‌که چرا مداخلهگری باید اثرات مختلفی را در زمینهها‌/‌محیطهای آموزشی مختلف از خود بر جای بگذارد، چه باید کرد؟

     افزون بر‌این، ارزشیابیهایی با اثربخشی کلی مثبت، ممکن است به افزایش یا کاهش نابرابری در جامعه‏ هدف برنامه آموزشی منجر شود. هر‌چند که تحلیلهای مربوط به زیرگروهها ممکن است به ما این اجازه را بدهد که اثربخشی/ عدم اثربخشی نابرابری‏ها را تشخیص دهیم؛ اما فهم چگونگی تأثیرپذیری نابرابری‏ها از مداخلهگری نیازمند درک دقیقتری از روابط علی- معلولی است. این امر از طریق ارزشیابی پیامدهای اجرای برنامه آموزشی امکانپذیر نیست و باید از ارزشیابی فرایندی برای این منظور بهره جست (Craig et al., 2008a; Craig et al., 2008b).

 

چگونگی برنامه‏ریزی، طراحی، اجرا و گزارش ارزشیابی فرایندی در برنامه‌‌ریزی آموزشی

در برنامه‏ریزی، طراحی، اجرا و گزارش ارزشیابی فرایندی در برنامه‌‌ریزی آموزشی باید به موارد مهمی توجه کرد. خلاصهای از این موارد در قاب (1) عرضه شده است (Moore et al., 2015). ولی هر یک از این مراحل و نکاتی که در آنها باید مورد توجه قرار گیرد، نیز به صورت تفصیلی در ادامه آورده شده است. در‌این‌راستا، لازم است که در طراحی و اجرای ارزشیابی برنامه‌های آموزشی علمی‌ـ‌کاربردی این موارد از جمله؛ شناسایی و طرح سؤال‌ها و مفروضات ارزشیابی از فرایند برنامه آموزش (متناسب با آموزش‌های عملی و کاربردی)، نوع و ترکیب افراد تشکیل‌دهنده تیم ارزشیابی، وظایف و نوع انجام وظایف هر یک از اعضاء، سازوکار ارزشیابی فرایندی متناسب با آموزش‌های علمی-‌کاربردی، نوع جمع‌آوری داده‌ها و تحلیل‌های بعدی کمّی و کیفی، گزارش‌نویسی، مستندسازی، عرضه گزارش نهایی و به‌کارگیری عملیاتی از نتایج در بهبود روند برنامه آموزشی مورد توجه قرار گیرد.

 

قاب 1. ملاحظات کلیدی در برنامه‏ریزی ارزشیابی فرایندی برای برنامه‌‌ریزی آموزش‌های علمی‌ـ‌کاربردی

هنگام برنامه‏ریزی ارزشیابی فرایندی آموزش‌های علمی‌ـ‌کاربردی، ارزشیابان باید:

ـ به دقت پارامترهای ارتباط با طراحان و مجریان مداخلهگری را تعریف کنند.

ـ اطمینان حاصل کنند که تیم پژوهشی از تخصص لازم به‌ویژه در ارزشیابی برنامه‌های عملیاتی و مهارتی برخوردار است.

ـ مرزهای وظایف اختصاصی و وظایف مشترک را برای تیم‏های ارزشیابی فرایندی و پیامدی تعریف کنند.

هنگام طراحی و اجرای ارزشیابی فرایندی، ارزشیابان باید:

- مداخلهگری و مفروضات علّی آن را در رابطه با چگونگی اجرای آن تشریح کرده و ساز‌و‌کارهایی که به واسطه آنها تغییرات در جامعه‏ی هدف (فراگیران و مداخله‌گران برنامه‌های آموزش‌ علمی‌ـ‌کاربردی) ایجاد خواهد شد را تعریف کنند.

ـ عدم ‏قطعیت‏های اصلی را شناسایی کرده و مهم‌ترین سؤال‌ها در این زمینه را به صورت نظاممند انتخاب کنند.

ـ ترکیبی از روش‏های کمّی و کیفی برای پاسخگویی به سؤال‌های پژوهش ارزشیابی آموزشی علمی‌ـ‌کاربردی را انتخاب کنند.

هنگام تحلیل دادههای ارزشیابی فرایندی، ارزشیابان باید:

ـ اطلاعات کمی- توصیفی را در زمینه مواردی مانند، میزان وفاداری به برنامه آموزشی علمی‌ـ‌کاربردی، منابع و مواردی از این قبیل تهیه کنند.

ـ مدل‌سازی دقیقی از تغییرات و تفاوت‏های میان پاسخگویان و جوامع هدف برنامه‌های آموزشی علمی‌ـ‌کاربردی مختلف را عرضه دهند.

ـ فرایند کمّی را با دادههای حاصل‌شده، ترکیب کنند تا دریابند که آیا اثرات برنامه با توجه به اجرا، عوامل مداخلهگر از قبل تعریف‏شده و عوامل میانجی متفاوت است؟

ـ داده‏های کیفی را گردآوری و به صورت بازگشتی تحلیل کنند تا نتایج حاصل از مراحل اولیه در مراحل بعد نیز مورد توجه قرار گرفته و تکمیل شوند.

ـ اطمینان حاصل کنند که تحلیل‏های کمّی و کیفی مبتنی (مکمل) بر یکدیگر هستند.

ـ در صورت امکان، باید دادههای کیفی را قبل از دادههای کمی تحلیل کنند.

ـ لازم است به روشنی بیان شود که دادههای ارزشیابی فرایندی چگونه برای توسعة فرضیات یا آزمونهای تعقیبی مورد استفاده قرار میگیرند.

هنگام گزارش دادههای ارزشیابی فرایندی، ارزشیابان باید:

ـ راهنمای گزارش‏نویسی موجود را با روشهای به‌کارگرفته‌شده تطبیق دهند.

ـ مدل منطق یا نظریه مداخلهگری را بیان کنند و چگونگی استفاده از آن را برای انتخاب سؤال‌‌های پژوهش در مراحل مختلف برنامه آموزشی علمی‌ـ‌کاربردی، تبیین کنند.

ـ در صورت لزوم چند مقاله معتبر علمی ـ پژوهشی برگرفته‌از گزارش ارزشیابی فرایندی آموزش‌های علمی‌ـ‌کاربردی مورد نظر منتشر کنند.

ـ یافته‏های به‌دست آمده از ارزشیابی را برای به کارگیری ذینفعان مختلف از برنامه‌های آموزش‌های علمی‌ـ‌کاربردی منتشر کنند.

 

برنامهریزی ارزشیابی فرایندی در نظام آموزش‌های علمی‌-‌کاربردی

توجه و رعایت موارد زیر در برنامهریزی ارزشیابی فرایندی در نظام آموزش‌های علمی-‌کاربردی بسیار سودمند است:

ارتباط با طراحان و مجریان مداخلهگری‌های آموزش و یادگیری در نظام آموزش‌های علمی‌-‌کاربردی: در این حالت ارزشیابی فرایندی، مشاهده انتقادی کارهای تیم مداخلهگران آموزشی است. ایجاد و حفظ روابط کاری خوب و در‌عین‌حال حفظ استقلال خود، در ارزشیابی برای برخورداری از اعتبار لازم به‌عنوان ارزشیاب، چالشی است که باید به شدت مورد‌توجه قرار گیرد. تأمل در این زمینه ‌که چگونه، این روابط، ارزشیاب را به مشاهده مداخلهگری با دیدگاهی کاملاً مثبت و یا کاملاً انتقادی رهنمون میکند، امری حیاتی است. شاید برنامهریزی برای داوری و قضاوت بیطرفانه به وسیله پژوهش‌گر با سهم سرمایهگذاری کم در برنامه‏ مورد‌نظر مفیدتر باشد. وجود چنین فردی میتواند مانع از تأثیرپذیری استقلال ارزشیاب از موقعیت او شود (Moore et al., 2015).

تصمیمگیری در‌زمینه ساختارهای مورد نیاز برای بررسی و برطرفسازی مسائل پیشآمده: در طول ارزشیابی فرایندی، ارزشیابان ممکن است با یک‌سری مسائل و مشکلات اجرایی روبه‌رو شوند و بخواهند با سیاستگذاران و عاملان اجرایی در میان بگذارند (Patton, 1987). ارزشیاب فرایندی باید به این نکته توجه کند که آیا او در نقش یک مشاهدهگر منفعل است، یا گاهی میتواند در بررسی و برطرف کردن مسائل اجرایی پیشآمده در طول ارزشیابی نیز نقش ایفا کند؟. در مرحله امکانسنجی یا پایلوت، ارزشیابان باید نقش فعالی در حل این مسائل داشته باشند. ولی زمانی که آنها به دنبال افزایش اثربخشی در شرایط واقعی هستند، شاید بهتر باشد که نقش منفعلتری برای آنها قائل شد. زیرا تمرکز بیش از حد بر ارزشیابی فرایندی و حل مشکلات در آن، میتواند باعث ایجاد گسست در کار ارزشیابی و مداخلهگری شود؛ به گونهای که به تدریج ممکن است باعث حدف کامل فرایند مداخلهگری و تمرکز بر ارزشیابی شود. از همان ابتدای شروع برنامه مداخلهگری، باید نظامها و ساز‌و‌کارهای لازم برای حل مسائل و مشکلات پیش‌آمده در حین اجرای برنامه آموزشی مورد توجه قرار گیرد (Moore et al., 2015).

روابط موجود در تیمهای ارزشیابیِ آموزشی برای اجرای ارزشیابی فرایندی: ارزشیابی فرایندی در برنامه‌ریزی و انجام ارزشیابی آموزشی، معمولاً بخشی از برنامه ارزشیابی بزرگتری است. این برنامه‏ ارزشیابی بزرگ شامل ارزشیابی پیامدها و یا تحلیل هزینه- فایده، برنامه‌های آموزش و یادگیری است. روابط میان عناصر ارزشیابی باید در مرحله برنامه‏ریزی تعریف شود. همچنین نظارت و پایش محققی که همۀ جنبهها را مورد‌توجه قرار میدهد، اهمیت زیادی دارد. اگر ارزشیابی پیامدها و ارزشیابی فرایندی به‌وسیله تیمهای ارزشیابی مختلفی انجام میشود، باید ارتباطات اثربخشی بین این تیم‌ها به‌وجود آید، تا از موازیکاری جلوگیری شود. هنگامی‌که ارزشیابی فرایندی و ارزشیابی پیامدی به‌وسیله افراد یکسان (در یک تیم واحد) انجام میشود، باید تشریح گردد که این امر چگونه بر تحلیل نتایج ارزشیابی آموزشی اثرگذار است (Audrey et al., 2006).

منابع و تعیین تیم مورد نیاز: ارزشیابی فرایندی شامل تصمیمات پیچیده در زمینه سؤالات پژوهشی، دیدگاههای نظری و روشهای پژوهش است. بنابراین، افراد باتجربه و متخصص در عرصه آموزش‌های علمی‌ـ‌کاربردی باید زمان کافی را صرف نظریه‌های روان‌شناختی و جامعه‏شناختی (که مبنا و اساس مداخلهگری آموزشی در یادگیری نظری و به‌ویژه عملی مورد نظر هستند) و روشهای کیفی مورد نیاز کنند (Moore et al., 2015).

مشارکت عمومی: باور بر این است که باید به مداخله و درگیری عموم فراگیران و ذی‌نفعان آموزش‌های علمی‌ـ‌کاربردی در برنامه ارزشیابی توجه شود. زیرا این مورد میتواند کیفیت و کاربرد برنامه‏های مداخلهگری آموزشی علمی‌ـ‌کاربردی را بالا ببرد. برای مثال، وارد کردن نمایندگان مردمی (که شاید خیلی هم با مباحث فنی ارزشیابی فرایندی خاص برنامه‌های آموزشی، آشنایی نداشته باشند)، میتواند به افزیش کیفیت و کاربرد نتایج ارزشیابی کمک کند (Bess et al., 2004).

 

طراحی و اجرای ارزشیابی فرایندی متناسب با آموزش‌های علمی‌ـ‌کاربردی

توجه به ملاحظات زیر در این مرحله از ارزشیابی فرایندی در آموزش‌های علمی‌ـ‌کاربردی میتواند بسیار سودمند باشد:

ـ تعریف مداخلهگری و مشخص کردن مفروضات اصلی: به‌طور‌کلی در آغاز ارزشیابی فرایندی، مداخلهگری مورد‌نظر تعریف و تشریح میشود. زمانی‌که مجموعهای از فعالیتها برای انجام شدن در زمینه و جامعه‏ مورد‌مطالعه (که برنامه آموزشی علمی‌ـ‌کاربردی برای آنها طراحی و اجرا گردیده است) مشخص می‌شود، ارزشیابان ممکن است به بررسی میزان دست‌یابی به اهداف آموزش و یادگیری در مقایسه با قبل از اجرای برنامه آموزشی بپردازند. از‌طرف دیگر، مداخلهگری ممکن است، به صورت مجموعهای از ساختارها و فرایندهایی تعریف شود که هدف آن بهبود وضعیت آموزش و یادگیری با به‌کارگیری تغییرات تسهیلگرایانه است. در‌چنین مواردی، ارزشیابان فرایندی ممکن است، علاقه‌مند به بررسی میزان وفاداری و تعهد در استفاده از این ساختارها، برای تسهیل تغییرات باشند (Pawson & Tilley, 1997; Moore et al., 2015).

     تعریف روشن مفروضات علّی مداخله‏گری به آماده‌سازی برای اجرای برنامه آموزشی علمی‌ـ‌کاربردی، چگونگی به‌کارگیری منابع، چگونگی کار مداخلهگری و پیامدهای کوتاهمدت و بلندمدت کمک می‌کند (Moore et al., 2015). هر‌چند که ارزشیابان فرایندی ممکن است، شیوههای گزینشی گوناگونی برای تعریف و تشریح مفروضات علّی مداخلهگری داشته باشند، ولی توسعه مدلی منطقی در‌این‌زمینه بسیار مفید است (Kellogg, 2004). مدل منطقی در‌واقع نمایش طرح‌واره‌ای از روابط میان منابع، فعالیت‏ها و پیامدهای مورد‌انتظار مداخله‏گری آموزشی است (Kellogg, 2004; Renger & Titcomb, 2002; Kirby, 2004). اگر مداخلهگری و ارزشیابی فرایندی آن بر‌پایه یک یا چند نظریه جامعه‏شناختی یا روان‏شناختی باشد، بنابراین با به‌کارگیری مدلی منطقی، میتوان یافتههای مداخلهگری/ ارزشیابی را در توسعه نظریه مورد نظر به‌کار برد (Pawson & Tilley, 1997; Moore et al., 2015). با‌این‌حال، توصیه می‏شود که ارزشیاب‌های فرایندی، نظریه/ نظریات پیشین را بدون توجه به چگونگی کاربرد آنها در زمینه/ محیط آموزشی (که مداخلهگری در آن انجام میگیرد) به‌کار نبرند. افزون‌بر‌این، احتمال انتخاب و تمرکز برروی نظریههای نامناسبِ در رشته علمی خاصی نیز وجود دارد. برای مثال، برخی از ارزشیابیها، به دلیل فقط به‌کارگیری از ارزشیابیهای سطح فردی و در‌نظر نگرفتن تغییرات در سطوح دیگر( مانند سازمان و جامعه) مورد انتقاد قرار گرفتهاند (Hawe et al. 2009).

     اگر در زمینه مفهوم مداخلهگری مورد‌نظر و هدف آن شفافیت نسبی به‌دست آمده باشد، باید طراحی ارزشیابی فرایندی را با بررسی تعاریف مداخلهگری و نظریه‏ای که مبنای آن بوده است، شروع کرد. این کار کمک می‌کند، تا ابعاد اجرایی، ساز‌و‌کارهای اثرگذاری و زمینه/ منطقه هدف بهتر شناخته شود. افزون‌بر‌این، بهتر است ادبیات و پیشینۀ مربوط به ‌آن، مطالعه و اعتبار ارتباطات علّی تعیین‌شده در مدل منطقی بررسی شود. این کار به درک شیوه ارتباط میان شواهد و ارتباطات علّی موجود در مدل منطقی و نیز شناسایی مشکلات بالقوه موجود در مسیر ارزشیابی کمک می‌کند (Moore et al., 2015).

ـ یادگیری از ارزشیابیهای فرایندی پیشین؛ دانش کنونی ما چه اندازه است و این مطالعه چه چیزی به دانش و مهارت قبلی ما اضافه خواهد کرد؟ مانند هر پژوهش دیگری، مطالعه ادبیات، اولین گام در ارزشیابی فرایندی است. این عمل به شناسایی شاخصههای سوژهها و چگونگی توسعه و افزایش شناخت در مورد آنها کمک میکند (Montgomery et al., 2013). افزون‌بر‌این، مطالعه ادبیات پژوهشی موجود، ممکن است، نشان دهد که تفاوت در پیامدهای مداخلهگریهای مشابه از تفاوتهای ظریف آنها در اجرا و زمینه/ محیط آموزشی که پژوهش در آن انجام شده، ناشی میشود. با‌این‌وجود، اگر هر مطالعه، سؤالهای فرایندی گوناگونی را دنبال کند و یا اینکه روشهای غیرقابل مقایسهای را برای موضوعی یکسان به‌کار ببرد، در این‌صورت توانایی مقایسه و تعمیم ‌یافته‌ها باید کمی با احتیاط انجام شود. نکته مهم و مورد توجه دیگر در این مرحله این است که؛ نقطه آغاز خوب، در طراحی ارزشیابی فرایندی «شناسایی فرایند ارزشیابی مداخلهگریهایی است که از عناصری مشابه‌ای با برنامه مورد ارزشیابی کنونی برخوردار بودهاند» (Moore et al., 2015).

ـ اهداف اصلی و سؤالهای پژوهش: بهتر است که مهم‌ترین سؤال‌های پژوهشی، که فرایند ارزشیابی آموزشی علمی‌ـ‌کاربردی به دنبال پاسخگویی به آنها است، مشخص شده باشد و تلاشها برای پاسخ‌گویی به این پرسشها متمرکز است. بلندپروازی بیش‌از‌حد ممکن است، سبب اتلاف وقت و منابع شود. شناسایی مهم‌ترین سؤال‌های پژوهشی در ارزشیابی فرایندی مستلزم شناسایی دقیق همه عدم ‌قطعیتهایی است که برنامه مداخلهگری در حین طراحی و اجرا ممکن است با آن روبه‌رو شود. ارزشیابان ممکن است کار خود را با فهرست‌بندی مفروضات در زمینه چگونگی انجام مداخلهگری و هدف آن آغاز کنند. ارزشیابان ممکن است این کار را با به‌کارگیری «ارتباط با سیاستگذاران و عوامل اجرایی» و پیش از بررسی شواهد عینی در زمینه مفروضات و دست‌یابی به توافق با تیم ارزشیابی برنامه‌ آموزشی انجام دهند. هرچند که شناسایی نظاممند سؤال‌های اصلی در تمرکز‌بخشی به فعالیتهای برنامه ارزشیابی بسیار مفید است، ولی همیشه لازم است که ظرفیت پژوهشی خالی برای سؤال‌ها و وقایع پیشبینی‌نشده در فرایند ارزشیابی آموزشی در نظر گرفت (Moore et al., 2015).

- انتخاب روشهای مناسب: در ارزشیابی فرایندی روشهای پژوهشی گوناگونی برای پاسخ‌گویی به سؤال‌ها به‌کار برده می‌شود. اما برای انتخاب بهترین روش‌ها، باید نقاط قوت و ضعف هر‌کدام از این روشها ارزیابی شود (Bess et al., 2004). برخی از مهم‌ترین روشهای به‌کا‌رفته برای ارزشیابی فرایندی به شرح زیر است:

- مشاهده‏ شرکتکنندگان در برنامه‌های آموزشی علمی-‌کاربردی: طیفی از نقشها وجود دارد که ارزشیابان میتوانند، در حین اجرای برنامه‏ ارزشیابی آنها را به‌کار گیرند. این طیف از «یکی شدن/ همرنگ شدن کامل ارزشیاب با مخاطبان ارزشیابی (ارزشیاب به‌منزله شرکتکننده)» تا « زیرنظر گرفتن مشارکتکنندگان به صورت نامرئی و غیرمحسوس (ارزشیاب به‌منزله مشاهدهگر صرف)» متغیر است. اما تجربه نشان داده است که ظاهر‌شدن ارزشیاب در نقش «مشاهدهگر به‌منزله مشارکتکننده» معمولاً نتایج واقعبینانهتری را به دنبال دارد (Gold, 1969). در این حالت، مسئولیتها و وظایف ارزشیاب برای تیم برنامه آموزشی و اعضای جامعه مورد‌مطالعه در محیط آموزشی کاملاً مشخص است. هیچ تلاشی در‌راستای پنهان کردن نقش ارزشیاب انجام نمیشود. اعتبار و صداقت از اهمیت زیادی برخوردار است (Patton, 1987).

     ارزشیابان در جلسات برنامهریزی تیم برنامه آموزشی و نهادهای دخیل در آن، حاضر میشوند. آنها ناظر و شنونده جلسات گروههای کانونی با آموزشگران و فراگیران و ذی‌نفعان برنامه آموزشی هستند و در گردهماییها، دورهمیها، تفریح‏ها و سایر برنامه‌های مرتبط با برنامه آموزشی مورد‌مطالعه، شرکت میکنند. سپس در جلسات ملی و منطقهای که برای گزارش‌دهی از پیشرفت کار به پشتیبانان برنامه ارزشیابی انجام میشود، شرکت میکنند. زمانی‌که نقش ارزشیابان، جزئی از دلایل مشارکت آنها است، آنها میتوانند برای انجام مسئولیتهای خود از پیمایش، موضوع راهبردهای گردآوری دادهها و گزارش نتایج را به‌کار گیرند. با وجود این، صرفنظر از وظایف تعیینشده، ارزشیابان باید در زمینه محتوای هر رخداد تأمل و تلاش کنند تا عناصر آن را به حیطههای موضوعی و توصیفی تقسیمبندی کنند. هرچند که مشاهده مشارکتکنندگان به‌منزله منبع اولیه شناسایی موضوعات و وقایع و در‌نتیجه کسب درکی عمیق درباره‏ زمینه فرایند ارزشیابی است، ولی منابع دست دوم مانند تحلیل محتوا نیز به همان اندازه میتواند، برای ارزشیابان روشنی‌بخش باشد (Bess et al., 2004).

ـ تحلیل محتوا: تحلیل محتوا اشاره به مرور نظاممند متون نوشتاری دارد که تیم برنامه‏ریزی، برنامه‏ ارزشیابی، مددکاران اجتماعی و اعضای جامعه هدف آن را تولید کرده‌اند. این متون میتواند؛ برنامههای زمانی، فهرست منابع، جدول بودجهها، نامههای رد‌و‌بدل شده با سازمانها و نهادهای همکار، زمان جلسات، پیشنهادهای عرضه شده برای حمایت مالی و هر سند دیگری که ویژگیها یا اطلاعاتی در زمینه برنامهی آموزشی مورد ارزشیابی در آن وجود دارد، باشد. در این روش، ارزشیاب به‌مثابه ابزار ارزیابی محتوای مواد چاپی و نوشتاری عمل میکند. او کدهای ایدهها، کلمات و عباراتی که عناصرِ برجسته و مهمی از برنامه آموزشی مورد ارزشیابی را منعکس میکنند، یادداشت میکند. چون ارزشیابی فرایندی دیدگاه طولی به تحقیق خود دارد، لازم است که توالی زمانی وقایع بیان و واحد تحلیل در آن مشخص شود (Patton, 1987; Bess et al., 2004).

- تحلیل موقعیتی: تحلیل موقعیتی که عموماً به تحلیل سوآت نیز معروف است، شکل خلاصه‌شده حروف قوت‏ها، ضعفها، فرصت‏ها و تهدیدها است (Barry, 1997). معمولاً در ارزشیابی فرایندی برنامه آموزشی با به‌کارگیری تحلیل سوآت، سؤالات زیر پرسیده میشود (Bess et al., 2004):

1- نقاط قوت و ضعف درونی و بیرونی برنامه‏ آموزشی علمی‌ـ‌کاربردی اجرا شده، چیست؟

2- چه فرصتهایی در برنامهی آموزشی علمی‌ـ‌کاربردی اجرا شده و محیط پیرامونی که برنامه آموزشی در آن اجرا شده، وجود دارد؟

3- چه تهدیدهای درونی و بیرونی وجود دارد، که میتوانند تأثیری منفی بر برنامه آموزشی علمی‌ـ‌کاربردی بگذارند؟

     ارزیابیهای مبتنی‌بر سوآت هم بر پویاییهای درونی و هم بر پویاییهای بیرونی متمرکز است. بنابراین، هم به مسائل و نگرانیهای مرتبط با خود برنامهی آموزشی مورد ارزشیابی توجه دارند و هم مسائل و مشکلات موجود در جامعه و محیطی که برنامه در آن انجام شده است را در نظر میگیرند. به‌طور‌کلی، این عوامل نمایی کلی و تقریباً جامع از مسائل و نگرانیهایی که برنامه آموزشی مورد ارزشیابی ممکن است در هر مقطعی از زمان با آن‏ها مواجه شود را نشان میدهد. با به‌کارگیری این رویکرد، مشاهده‏ تغییرات به صورت طولی امکان‌پذیر است.

ـ پیمایش در منزل: اگرچه که ارزشیابی فرایندی بیشتر با کاربرد روشهای کیفی معروف شده است، ولی مواقعی نیز وجود دارد که میتوان روشهای کمی را برای کسب شناخت در زمینه برنامهی آموزشی مورد‌ارزشیابی به‌کار برد. برای مثال، تغییرات تحلیلهای موقعیتی میتواند، با به‌کارگیری روش پیمایش در منزل صورت گیرد؛ که در آن از تیم برنامه آموزشی و اعضای جامعه‏ مورد مطالعه خواسته میشود، تا میزان آگاهی و رضایت خود از برنامه آموزشی را در پروسه‌های زمانی گوناگون بیان کنند. برای ‌این هدف میتوان طیف لیکرت را به کار برد که با آن پاسخ‌گویان، متغیرهایی مانند مشارکت پشتیبانان، آگاهی اجتماعی، پشتیبانی مدیریتی، فضای زمانی اجرای برنامه، کافی بودن منابع اختصاص داده‌شده برای اجرای برنامه آموزشی و مواردی از این قبیل را نمرهدهی میکنند. این رویکرد میتواند به جای تمرکز بر دورن‏ها یا پیشنهادهای تیم هستهای برنامه آموزشی، ایدهها و تفکرات طیف گستردهتری (از جمله افراد جامعه‏ هدف برنامه) را در فرایند برنامه‏ریزی دخیل کند. افزون‌بر‌این، چنین پیمایشهایی تاحدودی سبب ناشناس ماندن پاسخگویان میشود و به‌این‌واسطه، این امکان را فراهم میکند تا به دیدگاه‌های آن دسته از افرادی که ساکت هستند یا دوست ندارند دیدگاه خود را فریاد بزنند، در برنامه ارزشیابی توجه شود. میانگین پاسخها برای قضاوت درباره اینکه، برنامه در چه ابعاد و زمینههایی ضعیف یا قوی بوده، به‌کار می‌رود (Bess et al., 2004).

- مصاحبه: برای فهم بهتر برنامه مورد ارزشیابی، ارزشیابان میتوانند، شکل‌های گوناگونی از مصاحبهها را به‌کار گیرند. پاتون (Patton, 1987) سه نوع مصاحبه کیفی بازپاسخ را معرفی میکند که عبارت‌اند‌از: 1- «مصاحبههای مکالمهای غیررسمی»، 2- «مصاحبههای کلی با به‌کارگیری رویکرد هدایتشده» و 3- «مصاحبههای بازپاسخ استاندارد». به نظر میرسد که رویکرد اول یا مصاحبههای مکالمهای غیررسمی برای روش ارزشیابی فرایندی مناسبتر است. راین و بِیبی (Rubin & Babbie, 2001) مصاحبههای مکالمهای غیررسمی را به‌صورت «تعامل برنامه‏ریزینشده و پیشبینینشده میان مصاحبهگر که عموماً در طول مشاهدات میدانی اتفاق میافتد» تعریف میکنند. این تعریف نشان میدهد که در ارزشیابی فرایندی با به‌کارگیری مصاحبه مکالمهای غیررسمی، اتفاقی بودن اهمیت زیادی دارد. تمرکز ارزشیاب بر افزایش درک و فهم خود از رخدادهایی اتفاقافتاده در زمان واقعی خود است. در پایان جلسات برنامه‏ریزی و بودجهبندی برنامه و یا بعد از رخدادی ویژه مانند دورهمی و تفریح بیرون از خانه اعضای جامعه مورد‌مطالعه، ارزشیاب میتواند از تیم برنامه آموزشی و یا دیگر شرکتکنندگان بپرسد، آیا انتظارات آنها برآورده شده است یا نه؟ و اگر برآورده شده است، چگونه این اتفاق افتاده است. ارزشیاب میتواند در زمینه معنا و مفهوم رخداد از افراد (به عنوان برنامه‏ریز و عضو جامعه) سؤال کند (Bess et al., 2004).

- نمونهگیری در ارزشیابی فرایندی: نمونهگیری یکی از موارد برجسته در انجام پژوهشهای ارزشیابی فرایندی به‌صورت کمّی و کیفی است. به‌کار‌گیری و مشارکت همه ذی‎‎نفعان برنامه‌ای آموزشی، بیشتر اوقات نه لازم و نه شدنی است. در‌عین‌حال باید به این نکته نیز توجه کرد که تمرکز بر روی شمار اندکی مطالعه موردی، برای نتیجهگیری در زمینه برنامه به صورت کلی نیز میتواند گمراهکننده باشد (Munro & Bloor, 2010). افزون بر این، شاید بهترین روش، به‌کارگیری توأمان از روشهای نمونهگیری تصادفی و هدفمند باشد. البته توجه به این نکته نیز لازم است که شقوق هر یک از این روشهای نمونهگیری، باید با هدف و شرایط به‌کارگیری آنها سازگاری و همخوانی داشته باشد (Patton, 1987).

- زمانبندی گردآوری اطلاعات/ دادهها: یکی دیگر از مسائل مهم در طراحی و اجرای هر ارزشیابی فرایندی در ارزشیابی از برنامه‌های آموزشی و یادگیری، زمانبندی گردآوری اطلاعات است. در مداخلهگری مورد‌نظر، گروه هدف، برنامه مداخلهگری و زمینهای که همه این موارد در آن قرار دارند، هویت مستقلی ندارند. در مقابل این موارد ماهیتی پویا و تغییرپذیر در‌هنگام ارزشیابی دارند. افزون بر این، باید به جوهره و اساس دادهها در زمان گردآوری آنها به طور جدی توجه شود. ملاحظات کلیدی که در این مرحله از ارزشیابی باید به آن توجه شود، بر‌این پایه‌اند (Munro & Bloor, 2010):

- چگونه ادراکات و فعالیتهای مجریان برنامه در طول زمان تغییر خواهد کرد؟ به‌ویژه زمانی‌که آنها میخواهند از گروه هدف خود در زمینه مفید بودن یا نبودن فعالیتها، بازخورد بگیرند؟

- آیا سازمان مجری برنامه آموزشی علمی‌-‌کاربردی به منظور تکمیل برنامه مداخلهگری در طول زمان دچار تغییر خواهد شد؟

- آیا منابع کافی به منظور گردآوری اطلاعات در بازههای زمانی گوناگون (در راستای مشاهده تغییرات در طول زمان) وجود دارد؟

- آیا فرایند گردآوری اطلاعات در بازههای زمانی گوناگون میتواند بدون اعمال فشار بر پاسخگویان یا تغییر شیوه مداخلهگری انجام گیرد؟

 

تحلیل

مهم‌ترین ملاحظاتی که در این مرحله از ارزشیابی فرایندی آموزش‌های علمی‌ـ‌کاربردی باید در نظر گرفت، «ترکیب روشها در تحلیل»، «تحلیل داده‌های کمّی» و «تحلیل دادههای کیفی» است که هر یک به‌صورت جداگانه در زیر توصیف میشوند (Patton: 1987):

ترکیب روشها در تحلیل: هر چند که دادههای کمی و کیفی هر یک به مهارتهای گوناگونی نیاز دارند و سؤالهای پژوهشی گوناگونی را دنبال میکنند، ولی هر دوی این دادهها باید با یکدیگر ترکیب شده و با هم تحلیل شوند. دادههای کمّی ممکن است مسائل و مشکلاتی را شناسایی کند که برای حل آنها باید دادههای کیفی را به‌کار برد. در‌این راستا دادههای کیفی ممکن است به نظریه یا الگویی پارادایمی ختم شوند و نیاز باشد که از روشهای کمی برای اعتبارسنجی آنها استفاده کرد. عناصر کمّی و کیفی به‌دست آمده، باید یافتههای یکدیگر را قوام بخشند. روشها نیز باید به گونهای با هم ترکیب شوند که به انباشت تدریجی دانش در زمینه چگونگی انجام و موفقیت مداخلهگری در آموزش و یادگیری کمک کنند (Coffey & Atkinson, 1996).

تحلیل دادههای کمّی: تحلیل کمی معمولاً با عرضه اطلاعات توصیفی کلی از شرایط و وضعیت جامعه هدف مداخلهگری آموزشی علمی‌ـ‌کاربردی آغاز میشود. ارزشیابان فرایندی ممکن است، مدل‌سازیهای دقیقتری نیز برای بررسی تغییرات در عوامل مختلف مداخلهگری به کار ببرند. چنین تحلیلی ممکن است برای پاسخگویی به سؤال‌هایی مانند چگونگی گسترش نابرابریها در هر مرحله انجام شود. وارد ساختن دادههای کمّی به مدل‌سازی پیامدها ممکن است در شناسایی روابط میان پیامدها، فرایندهای واسطهای و عوامل زمینهای دخیل در فرایند مداخلهگری آموزش و یادگیری مفید باشند (Moore et al., 2015).

تحلیل دادههای کیفی: تحلیلهای کیفی میتواند فهم عمیقی از ساز‌و‌کارهای عملی، چگونگی تأثیرگذاری زمینه‏ ارزشیابی بر اجرای آن و چگونگی مشارکت یا عدم مشارکت مخاطبان یا مجریان مداخلهگری‌های برنامه‌های آموزشی و درسی علمی‌-‌کاربردی عرضه دهد. انعطافپذیری و عمق روشهای کیفی به معنی آن است که این روشها میتوانند برای بررسی ساز‌و‌کارها و پیامدهای پیچیده و پیشبینینشده به کار روند. زمان مورد نیاز برای تحلیل کیفی نباید کم باشد. به‌طور کلی، گردآوری و تحلیل دادههای کیفی باید به صورت همزمان باشد. این امر امکان بررسی تمها (موضوعات) به‌دست‌آمده از مراحل اولیه پژوهش، در مراحل بعدی گرداوری دادهها را امکان‌پذیر میکند (Patton, 1987).

 

گزارش یافتههای ارزشیابی فرایندی برنامه‌های آموزشی علمی-‌کاربردی

شیوه گزارش ارزشیابی فرایندی برنامه‌های آموزشی علمی‌-‌کاربردی معمولاً کاری چالشبرانگیز است. اما در این مرحله توجه به نکات زیر میتواند بسیار سودمند باشد:

چه چیزی باید گزارش شود؟ بهترین روش برای گزارش ارزشیابی فرایندی وجود ندارد. نکته مهم در این مرحله گزارش، روابط میان عناصر کمّی و کیفی و روابط میان ارزشیابی فرایندی با سایر ارزشیابیها است. در این مرحله مفروضاتی در زمینه چگونگی گزارش اثرگذاری مداخلهگری آموزشی بر اهداف مورد نظر، از سوی طراحان برنامه مداخلهگری عرضه میشود. ولی الگوهای منطقی میتواند در این زمینه بسیار سودمند باشند. ارزشیابان فرایندی باید چگونگی کاربرد این نظریهها (که در مدل منطق
موجود است) برای دست‌یابی به اهداف را شرح دهند (
Lang & Secic, 2006; Jackson, 2010).

گزارش‌دهی برای طیف گستردهتری از مخاطبان برنامه آموزشی: ارزشیابی فرایندی معمولاً به دنبال آگاهی‌بخشی به سیاستگذاران و عوامل اجرایی مداخلهگری برنامه‌های آموزشی علمی-‌کاربردی است. باوجوداین، گزارش یافتهها به باید به‌گونهای ساده باشد، به‌طوری‌که در آینده ذینفعان گوناگون برنامه آمورزشی علمی-‌کاربردی، بتوانند در همه سطوح آن را به کار برند. ارزشیابان همچنین ممکن است به دنبال انتقال نتایج خود به مخاطبان بیشتر در نقاط گوناگون (غیراز منطقه مورد ‌مطالعه) باشند؛ تا شاید نتایج
مداخله
گری‏ آنها تأثیری مثبت بر نتایج و کارهای مخاطبان بگذارد. افزون‌بر این‌موارد، ارزشیابان میتوانند نتایج ارزشیابی خود را در سمینارها و کنفرانسهای گوناگون عرضه کنند تا جوامع و افراد غیردانشگاهی نیز از آنها سود ببرند (Moore et al., 2015).

انتشار در مجله‌ای علمی: ارزشیابان فرایندی معمولاً تمایل دارند که چندین مقاله را در مجلات علمی‌ـ‌پژوهشی معتبر عرضه کنند. این مقالات ممکن است، ابعاد گوناگونی از ارزشیابی فرایندی را منعکس کنند و باید به‌منزله بخشهای جداگانه از گزارش ارزشیابی، قابلیت ‌فهم و پختگی لازم را داشته باشد. با‌وجود‌این، در همه این مقالات باید به مقالات دیگر مستخرج از گزارش اصلی و حتی به خود گزراش اصلی استناد شود. نتایج ارزشیابی فرایندی، ممکن است در مجله‌ای منتشر نشود که این مورد نیز امری رایج در ارزشیابیهای فرایندی است (Moore et al., 2015). ولی پژوهش‌گر ارزشیاب باید همه تلاش خود را برای چاپ نتایج ارزشیابی انجام دهد. برای افزایش شانس چاپ، ارزشیابان باید تمرکز بسیار زیادی بر روی تفسیر نتایج، نظریه مداخلهگری آموزشی به‌کار برده شده در ارزشیابی، ملاحظات روششناختی، نوآوری و آنچه که ارزشیابی به پیکره دانش در عرصه آموزش و یادگیری موجود اضافه میکند، داشته باشند (Bryman, 2006).

 

کتاب‌شناسی

بینقی، ت. و سعیدی‌رضوانی، م. (1380). ارزیابی اثربخشی برنامه‌های آموزشی علمی-کاربردی در پاسخ به نیاز کارفرمایان. مؤسسه پژوهش و برنامه‌ریزی آموزش عالی، تهران.

Audrey, S., Holliday, J., Parry-Langdon, N., & Campbell, R. (2006). Meeting the challenges of implementing process evaluation within randomized controlled trials: the example of ASSIST (A Stop Smoking in Schools Trial). Health education research, 21(3), 366-377.

Barry, B. W. (1997). Strategic planning workbook for nonprofit organizations. Amherst H. Wilder Foundation. Bess, G., King, M., & LeMaster, P. L. (2004). Process evaluation: how it works. American Indian and Alaska Native Mental Health Research The Journal of the National Center, 11(2), 109-120.

Bryman, A. (2006). Integrating quantitative and qualitative research: how is it done?. Qualitative research, 6(1), 97-113.

Coffey, A., & Atkinson, P. (1996). Making sense of qualitative data: Complementary research strategies. Sage Publications, Inc.

Craig, P., Dieppe, P., Macintyre, S., Michie, S., Nazareth, I. and Petticrew, M. (2008a). Developing and evaluating complex interventions: new guidance. Medical Research Council (MRC), Available at: https:// mrc. ukri. org/ documents/pdf/complex-interventions-guidance/

Craig, P., Dieppe, P., Macintyre, S., Michie, S., Nazareth, I., & Petticrew, M. (2008b). Developing and evaluating complex interventions: the new Medical Research Council guidance. British Medical Journal (Bmj), 337.

Gold, R. (1969). Roles in sociological field observation. Issues in Participant Observation, edited by GJ McCall. and JL Simmons. Reading, MA: Addison-Wesley.

Hawe, P., Shiell, A. & Riley, T. (2009). Theorising Interventions as Events in Systems. American Journal of Community Psychology, 43, (3-4), 267-276.Jackson, D. L. (2010). Reporting results of latent growth modeling and multilevel modeling analyses: Some recommendations for rehabilitation psychology. Rehabilitation Psychology, 55 (3). 272.

Kellogg, W. K. (2004). Logic model development guide. Michigan: WK Kellogg Foundation.Kirby, D. (2004). BDI logic models: A useful tool for designing, strengthening and evaluating programs to reduce adolescent sexual risk-taking, pregnancy, HIV, and other STDs HIV and other STDs.Lang, T. A., Lang, T., & Secic, M. (2006). How to report statistics in medicine: annotated guidelines for authors, editors, and reviewers. ACP Press.

Montgomery, P., Underhill, K., Gardner, F., Operario, D. and Mayo-Wilson, E. (2013). The Oxford Implementation Index: a new tool for incorporating implementation data into systematic reviews and meta-analyses. Journal of Clinical Epidemiology, 66( 8) 874-882.

Moore, G. F., Audrey, S., Barker, M., Bond, L., Bonell, C., Hardeman, W., & Baird, J. (2015). Process evaluation of complex interventions: Medical Research Council guidance. British Medical Journal, 350, h1258.

Munro, A., & Bloor, M. (2010). Process evaluation: the new miracle ingredient in public health research?. Qualitative Research, 10( 6), 699-713.

Patton, M. Q. (1987). How to use qualitative methods in evaluation (No. 4). , London: Sage.

Pawson, R., Tilley, N., & Tilley, N. (1997). Realistic evaluation, London: Sage.

Renger, R,& Titcomb, A. (2002). A three-step approach to teaching logic models. American Journal of Evaluation, 23( 4), 493-503.

Rubin, A., & Babbie, E. (2001). Research methods for social work, 4th edition. Belmont, CA: Wadworth/Thomas Learning.