LCOV - code coverage report
Current view: top level - gcc - gimple.cc (source / functions) Coverage Total Hit
Test: gcc.info Lines: 87.9 % 1535 1350
Test Date: 2024-12-28 13:16:48 Functions: 95.1 % 143 136
Legend: Lines: hit not hit | Branches: + taken - not taken # not executed Branches: - 0 0

             Branch data     Line data    Source code
       1                 :             : /* Gimple IR support functions.
       2                 :             : 
       3                 :             :    Copyright (C) 2007-2024 Free Software Foundation, Inc.
       4                 :             :    Contributed by Aldy Hernandez <aldyh@redhat.com>
       5                 :             : 
       6                 :             : This file is part of GCC.
       7                 :             : 
       8                 :             : GCC is free software; you can redistribute it and/or modify it under
       9                 :             : the terms of the GNU General Public License as published by the Free
      10                 :             : Software Foundation; either version 3, or (at your option) any later
      11                 :             : version.
      12                 :             : 
      13                 :             : GCC is distributed in the hope that it will be useful, but WITHOUT ANY
      14                 :             : WARRANTY; without even the implied warranty of MERCHANTABILITY or
      15                 :             : FITNESS FOR A PARTICULAR PURPOSE.  See the GNU General Public License
      16                 :             : for more details.
      17                 :             : 
      18                 :             : You should have received a copy of the GNU General Public License
      19                 :             : along with GCC; see the file COPYING3.  If not see
      20                 :             : <http://www.gnu.org/licenses/>.  */
      21                 :             : 
      22                 :             : #include "config.h"
      23                 :             : #include "system.h"
      24                 :             : #include "coretypes.h"
      25                 :             : #include "backend.h"
      26                 :             : #include "tree.h"
      27                 :             : #include "gimple.h"
      28                 :             : #include "ssa.h"
      29                 :             : #include "cgraph.h"
      30                 :             : #include "diagnostic.h"
      31                 :             : #include "alias.h"
      32                 :             : #include "fold-const.h"
      33                 :             : #include "calls.h"
      34                 :             : #include "stor-layout.h"
      35                 :             : #include "internal-fn.h"
      36                 :             : #include "tree-eh.h"
      37                 :             : #include "gimple-iterator.h"
      38                 :             : #include "gimple-walk.h"
      39                 :             : #include "gimplify.h"
      40                 :             : #include "target.h"
      41                 :             : #include "builtins.h"
      42                 :             : #include "selftest.h"
      43                 :             : #include "gimple-pretty-print.h"
      44                 :             : #include "stringpool.h"
      45                 :             : #include "attribs.h"
      46                 :             : #include "asan.h"
      47                 :             : #include "ubsan.h"
      48                 :             : #include "langhooks.h"
      49                 :             : #include "attr-fnspec.h"
      50                 :             : #include "ipa-modref-tree.h"
      51                 :             : #include "ipa-modref.h"
      52                 :             : #include "dbgcnt.h"
      53                 :             : 
      54                 :             : /* All the tuples have their operand vector (if present) at the very bottom of
      55                 :             :    the structure.  Therefore, the offset required to find the operands vector is
      56                 :             :    the size of the structure minus the size of the 1-element tree array at the
      57                 :             :    end (see gimple_ops).  An adjustment may be required if there is tail
      58                 :             :    padding, as may happen on a host (e.g. sparc) where a pointer has 4-byte
      59                 :             :    alignment while a uint64_t has 8-byte alignment.
      60                 :             : 
      61                 :             :    Unfortunately, we can't use offsetof to do this computation 100%
      62                 :             :    straightforwardly, because these structs use inheritance and so are not
      63                 :             :    standard layout types.  However, the fact that they are not standard layout
      64                 :             :    types also means that tail padding will be reused in inheritance, which makes
      65                 :             :    it possible to check for the problematic case with the following logic
      66                 :             :    instead.  If tail padding is detected, the offset should be decreased
      67                 :             :    accordingly.  */
      68                 :             : 
      69                 :             : template<typename G>
      70                 :             : static constexpr size_t
      71                 :             : get_tail_padding_adjustment ()
      72                 :             : {
      73                 :             :   struct padding_check : G
      74                 :             :   {
      75                 :             :     tree t;
      76                 :             :   };
      77                 :             :   return sizeof (padding_check) == sizeof (G) ? sizeof (tree) : 0;
      78                 :             : }
      79                 :             : 
      80                 :             : #define DEFGSSTRUCT(SYM, STRUCT, HAS_TREE_OP) \
      81                 :             :   (HAS_TREE_OP \
      82                 :             :    ? sizeof (STRUCT) - sizeof (tree) - get_tail_padding_adjustment<STRUCT> () \
      83                 :             :    : 0),
      84                 :             : EXPORTED_CONST size_t gimple_ops_offset_[] = {
      85                 :             : #include "gsstruct.def"
      86                 :             : };
      87                 :             : #undef DEFGSSTRUCT
      88                 :             : 
      89                 :             : #define DEFGSSTRUCT(SYM, STRUCT, HAS_TREE_OP) sizeof (struct STRUCT),
      90                 :             : static const size_t gsstruct_code_size[] = {
      91                 :             : #include "gsstruct.def"
      92                 :             : };
      93                 :             : #undef DEFGSSTRUCT
      94                 :             : 
      95                 :             : #define DEFGSCODE(SYM, NAME, GSSCODE)   NAME,
      96                 :             : const char *const gimple_code_name[] = {
      97                 :             : #include "gimple.def"
      98                 :             : };
      99                 :             : #undef DEFGSCODE
     100                 :             : 
     101                 :             : #define DEFGSCODE(SYM, NAME, GSSCODE)   GSSCODE,
     102                 :             : EXPORTED_CONST enum gimple_statement_structure_enum gss_for_code_[] = {
     103                 :             : #include "gimple.def"
     104                 :             : };
     105                 :             : #undef DEFGSCODE
     106                 :             : 
     107                 :             : /* Gimple stats.  */
     108                 :             : 
     109                 :             : uint64_t gimple_alloc_counts[(int) gimple_alloc_kind_all];
     110                 :             : uint64_t gimple_alloc_sizes[(int) gimple_alloc_kind_all];
     111                 :             : 
     112                 :             : /* Keep in sync with gimple.h:enum gimple_alloc_kind.  */
     113                 :             : static const char * const gimple_alloc_kind_names[] = {
     114                 :             :     "assignments",
     115                 :             :     "phi nodes",
     116                 :             :     "conditionals",
     117                 :             :     "everything else"
     118                 :             : };
     119                 :             : 
     120                 :             : /* Static gimple tuple members.  */
     121                 :             : const enum gimple_code gassign::code_;
     122                 :             : const enum gimple_code gcall::code_;
     123                 :             : const enum gimple_code gcond::code_;
     124                 :             : 
     125                 :             : 
     126                 :             : /* Gimple tuple constructors.
     127                 :             :    Note: Any constructor taking a ``gimple_seq'' as a parameter, can
     128                 :             :    be passed a NULL to start with an empty sequence.  */
     129                 :             : 
     130                 :             : /* Set the code for statement G to CODE.  */
     131                 :             : 
     132                 :             : static inline void
     133                 :   276071702 : gimple_set_code (gimple *g, enum gimple_code code)
     134                 :             : {
     135                 :   276071702 :   g->code = code;
     136                 :             : }
     137                 :             : 
     138                 :             : /* Return the number of bytes needed to hold a GIMPLE statement with
     139                 :             :    code CODE.  */
     140                 :             : 
     141                 :             : size_t
     142                 :   331157741 : gimple_size (enum gimple_code code, unsigned num_ops)
     143                 :             : {
     144                 :   331157741 :   size_t size = gsstruct_code_size[gss_for_code (code)];
     145                 :   331157741 :   if (num_ops > 0)
     146                 :   230824498 :     size += (sizeof (tree) * (num_ops - 1));
     147                 :   331157741 :   return size;
     148                 :             : }
     149                 :             : 
     150                 :             : /* Initialize GIMPLE statement G with CODE and NUM_OPS.  */
     151                 :             : 
     152                 :             : void
     153                 :   276071702 : gimple_init (gimple *g, enum gimple_code code, unsigned num_ops)
     154                 :             : {
     155                 :   276071702 :   gimple_set_code (g, code);
     156                 :   276071702 :   gimple_set_num_ops (g, num_ops);
     157                 :             : 
     158                 :             :   /* Do not call gimple_set_modified here as it has other side
     159                 :             :      effects and this tuple is still not completely built.  */
     160                 :   276071702 :   g->modified = 1;
     161                 :   276071702 :   gimple_init_singleton (g);
     162                 :   276071702 : }
     163                 :             : 
     164                 :             : /* Allocate memory for a GIMPLE statement with code CODE and NUM_OPS
     165                 :             :    operands.  */
     166                 :             : 
     167                 :             : gimple *
     168                 :   274252672 : gimple_alloc (enum gimple_code code, unsigned num_ops MEM_STAT_DECL)
     169                 :             : {
     170                 :   274252672 :   size_t size;
     171                 :   274252672 :   gimple *stmt;
     172                 :             : 
     173                 :   274252672 :   size = gimple_size (code, num_ops);
     174                 :   274252672 :   if (GATHER_STATISTICS)
     175                 :             :     {
     176                 :             :       enum gimple_alloc_kind kind = gimple_alloc_kind (code);
     177                 :             :       gimple_alloc_counts[(int) kind]++;
     178                 :             :       gimple_alloc_sizes[(int) kind] += size;
     179                 :             :     }
     180                 :             : 
     181                 :   274252672 :   stmt = ggc_alloc_cleared_gimple_statement_stat (size PASS_MEM_STAT);
     182                 :   274252672 :   gimple_init (stmt, code, num_ops);
     183                 :   274252672 :   return stmt;
     184                 :             : }
     185                 :             : 
     186                 :             : /* Set SUBCODE to be the code of the expression computed by statement G.  */
     187                 :             : 
     188                 :             : static inline void
     189                 :   200421756 : gimple_set_subcode (gimple *g, unsigned subcode)
     190                 :             : {
     191                 :             :   /* We only have 16 bits for the RHS code.  Assert that we are not
     192                 :             :      overflowing it.  */
     193                 :   200421756 :   gcc_assert (subcode < (1 << 16));
     194                 :   200421756 :   g->subcode = subcode;
     195                 :   200421756 : }
     196                 :             : 
     197                 :             : 
     198                 :             : 
     199                 :             : /* Build a tuple with operands.  CODE is the statement to build (which
     200                 :             :    must be one of the GIMPLE_WITH_OPS tuples).  SUBCODE is the subcode
     201                 :             :    for the new tuple.  NUM_OPS is the number of operands to allocate.  */
     202                 :             : 
     203                 :             : #define gimple_build_with_ops(c, s, n) \
     204                 :             :   gimple_build_with_ops_stat (c, s, n MEM_STAT_INFO)
     205                 :             : 
     206                 :             : static gimple *
     207                 :   191377994 : gimple_build_with_ops_stat (enum gimple_code code, unsigned subcode,
     208                 :             :                             unsigned num_ops MEM_STAT_DECL)
     209                 :             : {
     210                 :           0 :   gimple *s = gimple_alloc (code, num_ops PASS_MEM_STAT);
     211                 :   191377994 :   gimple_set_subcode (s, subcode);
     212                 :             : 
     213                 :   191377994 :   return s;
     214                 :             : }
     215                 :             : 
     216                 :             : 
     217                 :             : /* Build a GIMPLE_RETURN statement returning RETVAL.  */
     218                 :             : 
     219                 :             : greturn *
     220                 :     3301079 : gimple_build_return (tree retval)
     221                 :             : {
     222                 :     3301079 :   greturn *s
     223                 :     3301079 :     = as_a <greturn *> (gimple_build_with_ops (GIMPLE_RETURN, ERROR_MARK,
     224                 :             :                                                2));
     225                 :     3301079 :   if (retval)
     226                 :     1993146 :     gimple_return_set_retval (s, retval);
     227                 :     3301079 :   return s;
     228                 :             : }
     229                 :             : 
     230                 :             : /* Reset alias information on call S.  */
     231                 :             : 
     232                 :             : void
     233                 :    15767647 : gimple_call_reset_alias_info (gcall *s)
     234                 :             : {
     235                 :    15767647 :   if (gimple_call_flags (s) & ECF_CONST)
     236                 :     1666736 :     memset (gimple_call_use_set (s), 0, sizeof (struct pt_solution));
     237                 :             :   else
     238                 :    14100911 :     pt_solution_reset (gimple_call_use_set (s));
     239                 :    15767647 :   if (gimple_call_flags (s) & (ECF_CONST|ECF_PURE|ECF_NOVOPS))
     240                 :     2760029 :     memset (gimple_call_clobber_set (s), 0, sizeof (struct pt_solution));
     241                 :             :   else
     242                 :    13007618 :     pt_solution_reset (gimple_call_clobber_set (s));
     243                 :    15767647 : }
     244                 :             : 
     245                 :             : /* Helper for gimple_build_call, gimple_build_call_valist,
     246                 :             :    gimple_build_call_vec and gimple_build_call_from_tree.  Build the basic
     247                 :             :    components of a GIMPLE_CALL statement to function FN with NARGS
     248                 :             :    arguments.  */
     249                 :             : 
     250                 :             : static inline gcall *
     251                 :    10852217 : gimple_build_call_1 (tree fn, unsigned nargs)
     252                 :             : {
     253                 :    10852217 :   gcall *s
     254                 :    21704434 :     = as_a <gcall *> (gimple_build_with_ops (GIMPLE_CALL, ERROR_MARK,
     255                 :             :                                              nargs + 3));
     256                 :    10852217 :   if (TREE_CODE (fn) == FUNCTION_DECL)
     257                 :    10647043 :     fn = build_fold_addr_expr (fn);
     258                 :    10852217 :   gimple_set_op (s, 1, fn);
     259                 :    10852217 :   gimple_call_set_fntype (s, TREE_TYPE (TREE_TYPE (fn)));
     260                 :    10852217 :   gimple_call_reset_alias_info (s);
     261                 :    10852217 :   return s;
     262                 :             : }
     263                 :             : 
     264                 :             : 
     265                 :             : /* Build a GIMPLE_CALL statement to function FN with the arguments
     266                 :             :    specified in vector ARGS.  */
     267                 :             : 
     268                 :             : gcall *
     269                 :      497323 : gimple_build_call_vec (tree fn, const vec<tree> &args)
     270                 :             : {
     271                 :      497323 :   unsigned i;
     272                 :      497323 :   unsigned nargs = args.length ();
     273                 :      497323 :   gcall *call = gimple_build_call_1 (fn, nargs);
     274                 :             : 
     275                 :     2268185 :   for (i = 0; i < nargs; i++)
     276                 :     1273539 :     gimple_call_set_arg (call, i, args[i]);
     277                 :             : 
     278                 :      497323 :   return call;
     279                 :             : }
     280                 :             : 
     281                 :             : 
     282                 :             : /* Build a GIMPLE_CALL statement to function FN.  NARGS is the number of
     283                 :             :    arguments.  The ... are the arguments.  */
     284                 :             : 
     285                 :             : gcall *
     286                 :      555304 : gimple_build_call (tree fn, unsigned nargs, ...)
     287                 :             : {
     288                 :      555304 :   va_list ap;
     289                 :      555304 :   gcall *call;
     290                 :      555304 :   unsigned i;
     291                 :             : 
     292                 :      555304 :   gcc_assert (TREE_CODE (fn) == FUNCTION_DECL || is_gimple_call_addr (fn));
     293                 :             : 
     294                 :      555304 :   call = gimple_build_call_1 (fn, nargs);
     295                 :             : 
     296                 :      555304 :   va_start (ap, nargs);
     297                 :     1167936 :   for (i = 0; i < nargs; i++)
     298                 :      612632 :     gimple_call_set_arg (call, i, va_arg (ap, tree));
     299                 :      555304 :   va_end (ap);
     300                 :             : 
     301                 :      555304 :   return call;
     302                 :             : }
     303                 :             : 
     304                 :             : 
     305                 :             : /* Build a GIMPLE_CALL statement to function FN.  NARGS is the number of
     306                 :             :    arguments.  AP contains the arguments.  */
     307                 :             : 
     308                 :             : gcall *
     309                 :        2267 : gimple_build_call_valist (tree fn, unsigned nargs, va_list ap)
     310                 :             : {
     311                 :        2267 :   gcall *call;
     312                 :        2267 :   unsigned i;
     313                 :             : 
     314                 :        2267 :   gcc_assert (TREE_CODE (fn) == FUNCTION_DECL || is_gimple_call_addr (fn));
     315                 :             : 
     316                 :        2267 :   call = gimple_build_call_1 (fn, nargs);
     317                 :             : 
     318                 :       10966 :   for (i = 0; i < nargs; i++)
     319                 :        6432 :     gimple_call_set_arg (call, i, va_arg (ap, tree));
     320                 :             : 
     321                 :        2267 :   return call;
     322                 :             : }
     323                 :             : 
     324                 :             : 
     325                 :             : /* Helper for gimple_build_call_internal and gimple_build_call_internal_vec.
     326                 :             :    Build the basic components of a GIMPLE_CALL statement to internal
     327                 :             :    function FN with NARGS arguments.  */
     328                 :             : 
     329                 :             : static inline gcall *
     330                 :      568734 : gimple_build_call_internal_1 (enum internal_fn fn, unsigned nargs)
     331                 :             : {
     332                 :      568734 :   gcall *s
     333                 :     1137468 :     = as_a <gcall *> (gimple_build_with_ops (GIMPLE_CALL, ERROR_MARK,
     334                 :             :                                              nargs + 3));
     335                 :      568734 :   s->subcode |= GF_CALL_INTERNAL;
     336                 :      568734 :   gimple_call_set_internal_fn (s, fn);
     337                 :      568734 :   gimple_call_reset_alias_info (s);
     338                 :      568734 :   return s;
     339                 :             : }
     340                 :             : 
     341                 :             : 
     342                 :             : /* Build a GIMPLE_CALL statement to internal function FN.  NARGS is
     343                 :             :    the number of arguments.  The ... are the arguments.  */
     344                 :             : 
     345                 :             : gcall *
     346                 :      365447 : gimple_build_call_internal (enum internal_fn fn, unsigned nargs, ...)
     347                 :             : {
     348                 :      365447 :   va_list ap;
     349                 :      365447 :   gcall *call;
     350                 :      365447 :   unsigned i;
     351                 :             : 
     352                 :      365447 :   call = gimple_build_call_internal_1 (fn, nargs);
     353                 :      365447 :   va_start (ap, nargs);
     354                 :     1462433 :   for (i = 0; i < nargs; i++)
     355                 :     1096986 :     gimple_call_set_arg (call, i, va_arg (ap, tree));
     356                 :      365447 :   va_end (ap);
     357                 :             : 
     358                 :      365447 :   return call;
     359                 :             : }
     360                 :             : 
     361                 :             : 
     362                 :             : /* Build a GIMPLE_CALL statement to internal function FN with the arguments
     363                 :             :    specified in vector ARGS.  */
     364                 :             : 
     365                 :             : gcall *
     366                 :      203284 : gimple_build_call_internal_vec (enum internal_fn fn, const vec<tree> &args)
     367                 :             : {
     368                 :      203284 :   unsigned i, nargs;
     369                 :      203284 :   gcall *call;
     370                 :             : 
     371                 :      203284 :   nargs = args.length ();
     372                 :      203284 :   call = gimple_build_call_internal_1 (fn, nargs);
     373                 :      989613 :   for (i = 0; i < nargs; i++)
     374                 :      583045 :     gimple_call_set_arg (call, i, args[i]);
     375                 :             : 
     376                 :      203284 :   return call;
     377                 :             : }
     378                 :             : 
     379                 :             : 
     380                 :             : /* Build a GIMPLE_CALL statement from CALL_EXPR T.  Note that T is
     381                 :             :    assumed to be in GIMPLE form already.  Minimal checking is done of
     382                 :             :    this fact.  */
     383                 :             : 
     384                 :             : gcall *
     385                 :     9797326 : gimple_build_call_from_tree (tree t, tree fnptrtype)
     386                 :             : {
     387                 :     9797326 :   unsigned i, nargs;
     388                 :     9797326 :   gcall *call;
     389                 :             : 
     390                 :     9797326 :   gcc_assert (TREE_CODE (t) == CALL_EXPR);
     391                 :             : 
     392                 :     9797326 :   nargs = call_expr_nargs (t);
     393                 :             : 
     394                 :     9797326 :   tree fndecl = NULL_TREE;
     395                 :     9797326 :   if (CALL_EXPR_FN (t) == NULL_TREE)
     396                 :           3 :     call = gimple_build_call_internal_1 (CALL_EXPR_IFN (t), nargs);
     397                 :             :   else
     398                 :             :     {
     399                 :     9797323 :       fndecl = get_callee_fndecl (t);
     400                 :     9956036 :       call = gimple_build_call_1 (fndecl ? fndecl : CALL_EXPR_FN (t), nargs);
     401                 :             :     }
     402                 :             : 
     403                 :    27319398 :   for (i = 0; i < nargs; i++)
     404                 :    17522072 :     gimple_call_set_arg (call, i, CALL_EXPR_ARG (t, i));
     405                 :             : 
     406                 :     9797326 :   gimple_set_block (call, TREE_BLOCK (t));
     407                 :     9797326 :   gimple_set_location (call, EXPR_LOCATION (t));
     408                 :             : 
     409                 :             :   /* Carry all the CALL_EXPR flags to the new GIMPLE_CALL.  */
     410                 :     9797326 :   gimple_call_set_chain (call, CALL_EXPR_STATIC_CHAIN (t));
     411                 :     9797326 :   gimple_call_set_tail (call, CALL_EXPR_TAILCALL (t));
     412                 :     9797326 :   gimple_call_set_must_tail (call, CALL_EXPR_MUST_TAIL_CALL (t));
     413                 :     9797326 :   gimple_call_set_return_slot_opt (call, CALL_EXPR_RETURN_SLOT_OPT (t));
     414                 :     9797326 :   if (fndecl
     415                 :     9638610 :       && fndecl_built_in_p (fndecl, BUILT_IN_NORMAL)
     416                 :    11903449 :       && ALLOCA_FUNCTION_CODE_P (DECL_FUNCTION_CODE (fndecl)))
     417                 :       37337 :     gimple_call_set_alloca_for_var (call, CALL_ALLOCA_FOR_VAR_P (t));
     418                 :     9759989 :   else if (fndecl
     419                 :    19361262 :            && (DECL_IS_OPERATOR_NEW_P (fndecl)
     420                 :     9553862 :                || DECL_IS_OPERATOR_DELETE_P (fndecl)))
     421                 :      118249 :     gimple_call_set_from_new_or_delete (call, CALL_FROM_NEW_OR_DELETE_P (t));
     422                 :             :   else
     423                 :     9641740 :     gimple_call_set_from_thunk (call, CALL_FROM_THUNK_P (t));
     424                 :     9797326 :   gimple_call_set_va_arg_pack (call, CALL_EXPR_VA_ARG_PACK (t));
     425                 :     9797326 :   gimple_call_set_nothrow (call, TREE_NOTHROW (t));
     426                 :     9797326 :   if (fndecl)
     427                 :    29074546 :     gimple_call_set_expected_throw (call,
     428                 :     9638610 :                                     flags_from_decl_or_type (fndecl)
     429                 :     9638610 :                                     & ECF_XTHROW);
     430                 :     9797326 :   gimple_call_set_by_descriptor (call, CALL_EXPR_BY_DESCRIPTOR (t));
     431                 :     9797326 :   copy_warning (call, t);
     432                 :             : 
     433                 :     9797326 :   if (fnptrtype)
     434                 :             :     {
     435                 :     9797223 :       gimple_call_set_fntype (call, TREE_TYPE (fnptrtype));
     436                 :             : 
     437                 :             :       /* Check if it's an indirect CALL and the type has the
     438                 :             :          nocf_check attribute. In that case propagate the information
     439                 :             :          to the gimple CALL insn.  */
     440                 :     9797223 :       if (!fndecl)
     441                 :             :         {
     442                 :      158613 :           gcc_assert (POINTER_TYPE_P (fnptrtype));
     443                 :      158613 :           tree fntype = TREE_TYPE (fnptrtype);
     444                 :             : 
     445                 :      158613 :           if (lookup_attribute ("nocf_check", TYPE_ATTRIBUTES (fntype)))
     446                 :          21 :             gimple_call_set_nocf_check (call, true);
     447                 :             :         }
     448                 :             :     }
     449                 :             : 
     450                 :     9797326 :   return call;
     451                 :             : }
     452                 :             : 
     453                 :             : /* Build a gcall to __builtin_unreachable as rewritten by
     454                 :             :    -fsanitize=unreachable.  */
     455                 :             : 
     456                 :             : gcall *
     457                 :      154538 : gimple_build_builtin_unreachable (location_t loc)
     458                 :             : {
     459                 :      154538 :   tree data = NULL_TREE;
     460                 :      154538 :   tree fn = sanitize_unreachable_fn (&data, loc);
     461                 :      154538 :   gcall *g = gimple_build_call (fn, data != NULL_TREE, data);
     462                 :      154538 :   gimple_call_set_ctrl_altering (g, true);
     463                 :      154538 :   gimple_set_location (g, loc);
     464                 :      154538 :   return g;
     465                 :             : }
     466                 :             : 
     467                 :             : /* Build a GIMPLE_ASSIGN statement.
     468                 :             : 
     469                 :             :    LHS of the assignment.
     470                 :             :    RHS of the assignment which can be unary or binary.  */
     471                 :             : 
     472                 :             : gassign *
     473                 :    81627277 : gimple_build_assign (tree lhs, tree rhs MEM_STAT_DECL)
     474                 :             : {
     475                 :    81627277 :   enum tree_code subcode;
     476                 :    81627277 :   tree op1, op2, op3;
     477                 :             : 
     478                 :    81627277 :   extract_ops_from_tree (rhs, &subcode, &op1, &op2, &op3);
     479                 :    81627277 :   return gimple_build_assign (lhs, subcode, op1, op2, op3 PASS_MEM_STAT);
     480                 :             : }
     481                 :             : 
     482                 :             : 
     483                 :             : /* Build a GIMPLE_ASSIGN statement with subcode SUBCODE and operands
     484                 :             :    OP1, OP2 and OP3.  */
     485                 :             : 
     486                 :             : static inline gassign *
     487                 :    86888965 : gimple_build_assign_1 (tree lhs, enum tree_code subcode, tree op1,
     488                 :             :                        tree op2, tree op3 MEM_STAT_DECL)
     489                 :             : {
     490                 :    86888965 :   unsigned num_ops;
     491                 :    86888965 :   gassign *p;
     492                 :             : 
     493                 :             :   /* Need 1 operand for LHS and 1 or 2 for the RHS (depending on the
     494                 :             :      code).  */
     495                 :    86888965 :   num_ops = get_gimple_rhs_num_ops (subcode) + 1;
     496                 :             : 
     497                 :   173777930 :   p = as_a <gassign *> (
     498                 :             :         gimple_build_with_ops_stat (GIMPLE_ASSIGN, (unsigned)subcode, num_ops
     499                 :             :                                     PASS_MEM_STAT));
     500                 :    86888965 :   gimple_assign_set_lhs (p, lhs);
     501                 :             :   /* For COND_EXPR, op1 should not be a comparison. */
     502                 :    86888965 :   if (op1 && subcode == COND_EXPR)
     503                 :      217647 :     gcc_assert (!COMPARISON_CLASS_P  (op1));
     504                 :    86888965 :   gimple_assign_set_rhs1 (p, op1);
     505                 :    86888965 :   if (op2)
     506                 :             :     {
     507                 :    13419878 :       gcc_assert (num_ops > 2);
     508                 :    13419878 :       gimple_assign_set_rhs2 (p, op2);
     509                 :             :     }
     510                 :             : 
     511                 :    86888965 :   if (op3)
     512                 :             :     {
     513                 :      314824 :       gcc_assert (num_ops > 3);
     514                 :      314824 :       gimple_assign_set_rhs3 (p, op3);
     515                 :             :     }
     516                 :             : 
     517                 :    86888965 :   return p;
     518                 :             : }
     519                 :             : 
     520                 :             : /* Build a GIMPLE_ASSIGN statement with subcode SUBCODE and operands
     521                 :             :    OP1, OP2 and OP3.  */
     522                 :             : 
     523                 :             : gassign *
     524                 :    82908429 : gimple_build_assign (tree lhs, enum tree_code subcode, tree op1,
     525                 :             :                      tree op2, tree op3 MEM_STAT_DECL)
     526                 :             : {
     527                 :    82908429 :   return gimple_build_assign_1 (lhs, subcode, op1, op2, op3 PASS_MEM_STAT);
     528                 :             : }
     529                 :             : 
     530                 :             : /* Build a GIMPLE_ASSIGN statement with subcode SUBCODE and operands
     531                 :             :    OP1 and OP2.  */
     532                 :             : 
     533                 :             : gassign *
     534                 :     2818474 : gimple_build_assign (tree lhs, enum tree_code subcode, tree op1,
     535                 :             :                      tree op2 MEM_STAT_DECL)
     536                 :             : {
     537                 :     2818474 :   return gimple_build_assign_1 (lhs, subcode, op1, op2, NULL_TREE
     538                 :     2818474 :                                 PASS_MEM_STAT);
     539                 :             : }
     540                 :             : 
     541                 :             : /* Build a GIMPLE_ASSIGN statement with subcode SUBCODE and operand OP1.  */
     542                 :             : 
     543                 :             : gassign *
     544                 :     1162062 : gimple_build_assign (tree lhs, enum tree_code subcode, tree op1 MEM_STAT_DECL)
     545                 :             : {
     546                 :     1162062 :   return gimple_build_assign_1 (lhs, subcode, op1, NULL_TREE, NULL_TREE
     547                 :     1162062 :                                 PASS_MEM_STAT);
     548                 :             : }
     549                 :             : 
     550                 :             : 
     551                 :             : /* Build a GIMPLE_COND statement.
     552                 :             : 
     553                 :             :    PRED is the condition used to compare LHS and the RHS.
     554                 :             :    T_LABEL is the label to jump to if the condition is true.
     555                 :             :    F_LABEL is the label to jump to otherwise.  */
     556                 :             : 
     557                 :             : gcond *
     558                 :    10014731 : gimple_build_cond (enum tree_code pred_code, tree lhs, tree rhs,
     559                 :             :                    tree t_label, tree f_label)
     560                 :             : {
     561                 :    10014731 :   gcond *p;
     562                 :             : 
     563                 :    10014731 :   gcc_assert (TREE_CODE_CLASS (pred_code) == tcc_comparison);
     564                 :    20029462 :   p = as_a <gcond *> (gimple_build_with_ops (GIMPLE_COND, pred_code, 4));
     565                 :    10014731 :   gimple_cond_set_lhs (p, lhs);
     566                 :    10014731 :   gimple_cond_set_rhs (p, rhs);
     567                 :    10014731 :   gimple_cond_set_true_label (p, t_label);
     568                 :    10014731 :   gimple_cond_set_false_label (p, f_label);
     569                 :    10014731 :   return p;
     570                 :             : }
     571                 :             : 
     572                 :             : /* Build a GIMPLE_COND statement from the conditional expression tree
     573                 :             :    COND.  T_LABEL and F_LABEL are as in gimple_build_cond.  */
     574                 :             : 
     575                 :             : gcond *
     576                 :       89240 : gimple_build_cond_from_tree (tree cond, tree t_label, tree f_label)
     577                 :             : {
     578                 :       89240 :   enum tree_code code;
     579                 :       89240 :   tree lhs, rhs;
     580                 :             : 
     581                 :       89240 :   gimple_cond_get_ops_from_tree (cond, &code, &lhs, &rhs);
     582                 :       89240 :   return gimple_build_cond (code, lhs, rhs, t_label, f_label);
     583                 :             : }
     584                 :             : 
     585                 :             : /* Set code, lhs, and rhs of a GIMPLE_COND from a suitable
     586                 :             :    boolean expression tree COND.  */
     587                 :             : 
     588                 :             : void
     589                 :      348739 : gimple_cond_set_condition_from_tree (gcond *stmt, tree cond)
     590                 :             : {
     591                 :      348739 :   enum tree_code code;
     592                 :      348739 :   tree lhs, rhs;
     593                 :             : 
     594                 :      348739 :   gimple_cond_get_ops_from_tree (cond, &code, &lhs, &rhs);
     595                 :      348739 :   gimple_cond_set_condition (stmt, code, lhs, rhs);
     596                 :      348739 : }
     597                 :             : 
     598                 :             : /* Build a GIMPLE_LABEL statement for LABEL.  */
     599                 :             : 
     600                 :             : glabel *
     601                 :    18129565 : gimple_build_label (tree label)
     602                 :             : {
     603                 :    18129565 :   glabel *p
     604                 :    18129565 :     = as_a <glabel *> (gimple_build_with_ops (GIMPLE_LABEL, ERROR_MARK, 1));
     605                 :    18129565 :   gimple_label_set_label (p, label);
     606                 :    18129565 :   return p;
     607                 :             : }
     608                 :             : 
     609                 :             : /* Build a GIMPLE_GOTO statement to label DEST.  */
     610                 :             : 
     611                 :             : ggoto *
     612                 :     6498897 : gimple_build_goto (tree dest)
     613                 :             : {
     614                 :     6498897 :   ggoto *p
     615                 :     6498897 :     = as_a <ggoto *> (gimple_build_with_ops (GIMPLE_GOTO, ERROR_MARK, 1));
     616                 :     6498897 :   gimple_goto_set_dest (p, dest);
     617                 :     6498897 :   return p;
     618                 :             : }
     619                 :             : 
     620                 :             : 
     621                 :             : /* Build a GIMPLE_NOP statement.  */
     622                 :             : 
     623                 :             : gimple *
     624                 :    14016608 : gimple_build_nop (void)
     625                 :             : {
     626                 :    14016608 :   return gimple_alloc (GIMPLE_NOP, 0);
     627                 :             : }
     628                 :             : 
     629                 :             : 
     630                 :             : /* Build a GIMPLE_BIND statement.
     631                 :             :    VARS are the variables in BODY.
     632                 :             :    BLOCK is the containing block.  */
     633                 :             : 
     634                 :             : gbind *
     635                 :     7108444 : gimple_build_bind (tree vars, gimple_seq body, tree block)
     636                 :             : {
     637                 :     7108444 :   gbind *p = as_a <gbind *> (gimple_alloc (GIMPLE_BIND, 0));
     638                 :     7108444 :   gimple_bind_set_vars (p, vars);
     639                 :     7108444 :   if (body)
     640                 :     1292829 :     gimple_bind_set_body (p, body);
     641                 :     7108444 :   if (block)
     642                 :     5672801 :     gimple_bind_set_block (p, block);
     643                 :     7108444 :   return p;
     644                 :             : }
     645                 :             : 
     646                 :             : /* Helper function to set the simple fields of a asm stmt.
     647                 :             : 
     648                 :             :    STRING is a pointer to a string that is the asm blocks assembly code.
     649                 :             :    NINPUT is the number of register inputs.
     650                 :             :    NOUTPUT is the number of register outputs.
     651                 :             :    NCLOBBERS is the number of clobbered registers.
     652                 :             :    */
     653                 :             : 
     654                 :             : static inline gasm *
     655                 :       99468 : gimple_build_asm_1 (const char *string, unsigned ninputs, unsigned noutputs,
     656                 :             :                     unsigned nclobbers, unsigned nlabels)
     657                 :             : {
     658                 :       99468 :   gasm *p;
     659                 :       99468 :   int size = strlen (string);
     660                 :             : 
     661                 :       99468 :   p = as_a <gasm *> (
     662                 :       99468 :         gimple_build_with_ops (GIMPLE_ASM, ERROR_MARK,
     663                 :             :                                ninputs + noutputs + nclobbers + nlabels));
     664                 :             : 
     665                 :       99468 :   p->ni = ninputs;
     666                 :       99468 :   p->no = noutputs;
     667                 :       99468 :   p->nc = nclobbers;
     668                 :       99468 :   p->nl = nlabels;
     669                 :       99468 :   p->string = ggc_alloc_string (string, size);
     670                 :             : 
     671                 :       99468 :   if (GATHER_STATISTICS)
     672                 :             :     gimple_alloc_sizes[(int) gimple_alloc_kind (GIMPLE_ASM)] += size;
     673                 :             : 
     674                 :       99468 :   return p;
     675                 :             : }
     676                 :             : 
     677                 :             : /* Build a GIMPLE_ASM statement.
     678                 :             : 
     679                 :             :    STRING is the assembly code.
     680                 :             :    NINPUT is the number of register inputs.
     681                 :             :    NOUTPUT is the number of register outputs.
     682                 :             :    NCLOBBERS is the number of clobbered registers.
     683                 :             :    INPUTS is a vector of the input register parameters.
     684                 :             :    OUTPUTS is a vector of the output register parameters.
     685                 :             :    CLOBBERS is a vector of the clobbered register parameters.
     686                 :             :    LABELS is a vector of destination labels.  */
     687                 :             : 
     688                 :             : gasm *
     689                 :       99468 : gimple_build_asm_vec (const char *string, vec<tree, va_gc> *inputs,
     690                 :             :                       vec<tree, va_gc> *outputs, vec<tree, va_gc> *clobbers,
     691                 :             :                       vec<tree, va_gc> *labels)
     692                 :             : {
     693                 :       99468 :   gasm *p;
     694                 :       99468 :   unsigned i;
     695                 :             : 
     696                 :      195979 :   p = gimple_build_asm_1 (string,
     697                 :             :                           vec_safe_length (inputs),
     698                 :             :                           vec_safe_length (outputs),
     699                 :             :                           vec_safe_length (clobbers),
     700                 :             :                           vec_safe_length (labels));
     701                 :             : 
     702                 :      318590 :   for (i = 0; i < vec_safe_length (inputs); i++)
     703                 :       43985 :     gimple_asm_set_input_op (p, i, (*inputs)[i]);
     704                 :             : 
     705                 :      252029 :   for (i = 0; i < vec_safe_length (outputs); i++)
     706                 :       61876 :     gimple_asm_set_output_op (p, i, (*outputs)[i]);
     707                 :             : 
     708                 :      355570 :   for (i = 0; i < vec_safe_length (clobbers); i++)
     709                 :       94425 :     gimple_asm_set_clobber_op (p, i, (*clobbers)[i]);
     710                 :             : 
     711                 :      100231 :   for (i = 0; i < vec_safe_length (labels); i++)
     712                 :         763 :     gimple_asm_set_label_op (p, i, (*labels)[i]);
     713                 :             : 
     714                 :       99468 :   return p;
     715                 :             : }
     716                 :             : 
     717                 :             : /* Build a GIMPLE_CATCH statement.
     718                 :             : 
     719                 :             :   TYPES are the catch types.
     720                 :             :   HANDLER is the exception handler.  */
     721                 :             : 
     722                 :             : gcatch *
     723                 :       37846 : gimple_build_catch (tree types, gimple_seq handler)
     724                 :             : {
     725                 :       37846 :   gcatch *p = as_a <gcatch *> (gimple_alloc (GIMPLE_CATCH, 0));
     726                 :       37846 :   gimple_catch_set_types (p, types);
     727                 :       37846 :   if (handler)
     728                 :       37834 :     gimple_catch_set_handler (p, handler);
     729                 :             : 
     730                 :       37846 :   return p;
     731                 :             : }
     732                 :             : 
     733                 :             : /* Build a GIMPLE_EH_FILTER statement.
     734                 :             : 
     735                 :             :    TYPES are the filter's types.
     736                 :             :    FAILURE is the filter's failure action.  */
     737                 :             : 
     738                 :             : geh_filter *
     739                 :        4330 : gimple_build_eh_filter (tree types, gimple_seq failure)
     740                 :             : {
     741                 :        4330 :   geh_filter *p = as_a <geh_filter *> (gimple_alloc (GIMPLE_EH_FILTER, 0));
     742                 :        4330 :   gimple_eh_filter_set_types (p, types);
     743                 :        4330 :   if (failure)
     744                 :        4330 :     gimple_eh_filter_set_failure (p, failure);
     745                 :             : 
     746                 :        4330 :   return p;
     747                 :             : }
     748                 :             : 
     749                 :             : /* Build a GIMPLE_EH_MUST_NOT_THROW statement.  */
     750                 :             : 
     751                 :             : geh_mnt *
     752                 :     1111954 : gimple_build_eh_must_not_throw (tree decl)
     753                 :             : {
     754                 :     1111954 :   geh_mnt *p = as_a <geh_mnt *> (gimple_alloc (GIMPLE_EH_MUST_NOT_THROW, 0));
     755                 :             : 
     756                 :     1111954 :   gcc_assert (TREE_CODE (decl) == FUNCTION_DECL);
     757                 :     1111954 :   gcc_assert (flags_from_decl_or_type (decl) & ECF_NORETURN);
     758                 :     1111954 :   gimple_eh_must_not_throw_set_fndecl (p, decl);
     759                 :             : 
     760                 :     1111954 :   return p;
     761                 :             : }
     762                 :             : 
     763                 :             : /* Build a GIMPLE_EH_ELSE statement.  */
     764                 :             : 
     765                 :             : geh_else *
     766                 :         361 : gimple_build_eh_else (gimple_seq n_body, gimple_seq e_body)
     767                 :             : {
     768                 :         361 :   geh_else *p = as_a <geh_else *> (gimple_alloc (GIMPLE_EH_ELSE, 0));
     769                 :         361 :   gimple_eh_else_set_n_body (p, n_body);
     770                 :         361 :   gimple_eh_else_set_e_body (p, e_body);
     771                 :         361 :   return p;
     772                 :             : }
     773                 :             : 
     774                 :             : /* Build a GIMPLE_TRY statement.
     775                 :             : 
     776                 :             :    EVAL is the expression to evaluate.
     777                 :             :    CLEANUP is the cleanup expression.
     778                 :             :    KIND is either GIMPLE_TRY_CATCH or GIMPLE_TRY_FINALLY depending on
     779                 :             :    whether this is a try/catch or a try/finally respectively.  */
     780                 :             : 
     781                 :             : gtry *
     782                 :     2795357 : gimple_build_try (gimple_seq eval, gimple_seq cleanup,
     783                 :             :                   enum gimple_try_flags kind)
     784                 :             : {
     785                 :     2795357 :   gtry *p;
     786                 :             : 
     787                 :     2795357 :   gcc_assert (kind == GIMPLE_TRY_CATCH || kind == GIMPLE_TRY_FINALLY);
     788                 :     2795357 :   p = as_a <gtry *> (gimple_alloc (GIMPLE_TRY, 0));
     789                 :     2795357 :   gimple_set_subcode (p, kind);
     790                 :     2795357 :   if (eval)
     791                 :     2686697 :     gimple_try_set_eval (p, eval);
     792                 :     2795357 :   if (cleanup)
     793                 :     2795357 :     gimple_try_set_cleanup (p, cleanup);
     794                 :             : 
     795                 :     2795357 :   return p;
     796                 :             : }
     797                 :             : 
     798                 :             : /* Construct a GIMPLE_WITH_CLEANUP_EXPR statement.
     799                 :             : 
     800                 :             :    CLEANUP is the cleanup expression.  */
     801                 :             : 
     802                 :             : gimple *
     803                 :      505424 : gimple_build_wce (gimple_seq cleanup)
     804                 :             : {
     805                 :      505424 :   gimple *p = gimple_alloc (GIMPLE_WITH_CLEANUP_EXPR, 0);
     806                 :      505424 :   if (cleanup)
     807                 :      505424 :     gimple_wce_set_cleanup (p, cleanup);
     808                 :             : 
     809                 :      505424 :   return p;
     810                 :             : }
     811                 :             : 
     812                 :             : 
     813                 :             : /* Build a GIMPLE_RESX statement.  */
     814                 :             : 
     815                 :             : gresx *
     816                 :      765497 : gimple_build_resx (int region)
     817                 :             : {
     818                 :      765497 :   gresx *p
     819                 :      765497 :     = as_a <gresx *> (gimple_build_with_ops (GIMPLE_RESX, ERROR_MARK, 0));
     820                 :      765497 :   p->region = region;
     821                 :      765497 :   return p;
     822                 :             : }
     823                 :             : 
     824                 :             : 
     825                 :             : /* The helper for constructing a gimple switch statement.
     826                 :             :    INDEX is the switch's index.
     827                 :             :    NLABELS is the number of labels in the switch excluding the default.
     828                 :             :    DEFAULT_LABEL is the default label for the switch statement.  */
     829                 :             : 
     830                 :             : gswitch *
     831                 :       63570 : gimple_build_switch_nlabels (unsigned nlabels, tree index, tree default_label)
     832                 :             : {
     833                 :             :   /* nlabels + 1 default label + 1 index.  */
     834                 :       63570 :   gcc_checking_assert (default_label);
     835                 :      127140 :   gswitch *p = as_a <gswitch *> (gimple_build_with_ops (GIMPLE_SWITCH,
     836                 :             :                                                         ERROR_MARK,
     837                 :             :                                                         1 + 1 + nlabels));
     838                 :       63570 :   gimple_switch_set_index (p, index);
     839                 :       63570 :   gimple_switch_set_default_label (p, default_label);
     840                 :       63570 :   return p;
     841                 :             : }
     842                 :             : 
     843                 :             : /* Build a GIMPLE_SWITCH statement.
     844                 :             : 
     845                 :             :    INDEX is the switch's index.
     846                 :             :    DEFAULT_LABEL is the default label
     847                 :             :    ARGS is a vector of labels excluding the default.  */
     848                 :             : 
     849                 :             : gswitch *
     850                 :       63570 : gimple_build_switch (tree index, tree default_label, const vec<tree> &args)
     851                 :             : {
     852                 :       63570 :   unsigned i, nlabels = args.length ();
     853                 :             : 
     854                 :       63570 :   gswitch *p = gimple_build_switch_nlabels (nlabels, index, default_label);
     855                 :             : 
     856                 :             :   /* Copy the labels from the vector to the switch statement.  */
     857                 :     1227219 :   for (i = 0; i < nlabels; i++)
     858                 :     1100079 :     gimple_switch_set_label (p, i + 1, args[i]);
     859                 :             : 
     860                 :       63570 :   return p;
     861                 :             : }
     862                 :             : 
     863                 :             : /* Build a GIMPLE_EH_DISPATCH statement.  */
     864                 :             : 
     865                 :             : geh_dispatch *
     866                 :       40415 : gimple_build_eh_dispatch (int region)
     867                 :             : {
     868                 :       40415 :   geh_dispatch *p
     869                 :       40415 :     = as_a <geh_dispatch *> (
     870                 :             :         gimple_build_with_ops (GIMPLE_EH_DISPATCH, ERROR_MARK, 0));
     871                 :       40415 :   p->region = region;
     872                 :       40415 :   return p;
     873                 :             : }
     874                 :             : 
     875                 :             : /* Build a new GIMPLE_DEBUG_BIND statement.
     876                 :             : 
     877                 :             :    VAR is bound to VALUE; block and location are taken from STMT.  */
     878                 :             : 
     879                 :             : gdebug *
     880                 :    47804327 : gimple_build_debug_bind (tree var, tree value, gimple *stmt MEM_STAT_DECL)
     881                 :             : {
     882                 :    47804327 :   gdebug *p
     883                 :    47804327 :     = as_a <gdebug *> (gimple_build_with_ops_stat (GIMPLE_DEBUG,
     884                 :             :                                                    (unsigned)GIMPLE_DEBUG_BIND, 2
     885                 :             :                                                    PASS_MEM_STAT));
     886                 :    47804327 :   gimple_debug_bind_set_var (p, var);
     887                 :    47804327 :   gimple_debug_bind_set_value (p, value);
     888                 :    47804327 :   if (stmt)
     889                 :    46959880 :     gimple_set_location (p, gimple_location (stmt));
     890                 :             : 
     891                 :    47804327 :   return p;
     892                 :             : }
     893                 :             : 
     894                 :             : 
     895                 :             : /* Build a new GIMPLE_DEBUG_SOURCE_BIND statement.
     896                 :             : 
     897                 :             :    VAR is bound to VALUE; block and location are taken from STMT.  */
     898                 :             : 
     899                 :             : gdebug *
     900                 :      507580 : gimple_build_debug_source_bind (tree var, tree value,
     901                 :             :                                      gimple *stmt MEM_STAT_DECL)
     902                 :             : {
     903                 :      507580 :   gdebug *p
     904                 :      507580 :     = as_a <gdebug *> (
     905                 :             :         gimple_build_with_ops_stat (GIMPLE_DEBUG,
     906                 :             :                                     (unsigned)GIMPLE_DEBUG_SOURCE_BIND, 2
     907                 :             :                                     PASS_MEM_STAT));
     908                 :             : 
     909                 :      507580 :   gimple_debug_source_bind_set_var (p, var);
     910                 :      507580 :   gimple_debug_source_bind_set_value (p, value);
     911                 :      507580 :   if (stmt)
     912                 :      389317 :     gimple_set_location (p, gimple_location (stmt));
     913                 :             : 
     914                 :      507580 :   return p;
     915                 :             : }
     916                 :             : 
     917                 :             : 
     918                 :             : /* Build a new GIMPLE_DEBUG_BEGIN_STMT statement in BLOCK at
     919                 :             :    LOCATION.  */
     920                 :             : 
     921                 :             : gdebug *
     922                 :     2581076 : gimple_build_debug_begin_stmt (tree block, location_t location
     923                 :             :                                     MEM_STAT_DECL)
     924                 :             : {
     925                 :     2581076 :   gdebug *p
     926                 :     2581076 :     = as_a <gdebug *> (
     927                 :             :         gimple_build_with_ops_stat (GIMPLE_DEBUG,
     928                 :             :                                     (unsigned)GIMPLE_DEBUG_BEGIN_STMT, 0
     929                 :             :                                     PASS_MEM_STAT));
     930                 :             : 
     931                 :     2581076 :   gimple_set_location (p, location);
     932                 :     2581076 :   gimple_set_block (p, block);
     933                 :     2581076 :   cfun->debug_marker_count++;
     934                 :             : 
     935                 :     2581076 :   return p;
     936                 :             : }
     937                 :             : 
     938                 :             : 
     939                 :             : /* Build a new GIMPLE_DEBUG_INLINE_ENTRY statement in BLOCK at
     940                 :             :    LOCATION.  The BLOCK links to the inlined function.  */
     941                 :             : 
     942                 :             : gdebug *
     943                 :     3261873 : gimple_build_debug_inline_entry (tree block, location_t location
     944                 :             :                                       MEM_STAT_DECL)
     945                 :             : {
     946                 :     3261873 :   gdebug *p
     947                 :     3261873 :     = as_a <gdebug *> (
     948                 :             :         gimple_build_with_ops_stat (GIMPLE_DEBUG,
     949                 :             :                                     (unsigned)GIMPLE_DEBUG_INLINE_ENTRY, 0
     950                 :             :                                     PASS_MEM_STAT));
     951                 :             : 
     952                 :     3261873 :   gimple_set_location (p, location);
     953                 :     3261873 :   gimple_set_block (p, block);
     954                 :     3261873 :   cfun->debug_marker_count++;
     955                 :             : 
     956                 :     3261873 :   return p;
     957                 :             : }
     958                 :             : 
     959                 :             : 
     960                 :             : /* Build a GIMPLE_OMP_CRITICAL statement.
     961                 :             : 
     962                 :             :    BODY is the sequence of statements for which only one thread can execute.
     963                 :             :    NAME is optional identifier for this critical block.
     964                 :             :    CLAUSES are clauses for this critical block.  */
     965                 :             : 
     966                 :             : gomp_critical *
     967                 :         542 : gimple_build_omp_critical (gimple_seq body, tree name, tree clauses)
     968                 :             : {
     969                 :         542 :   gomp_critical *p
     970                 :         542 :     = as_a <gomp_critical *> (gimple_alloc (GIMPLE_OMP_CRITICAL, 0));
     971                 :         542 :   gimple_omp_critical_set_name (p, name);
     972                 :         542 :   gimple_omp_critical_set_clauses (p, clauses);
     973                 :         542 :   if (body)
     974                 :         456 :     gimple_omp_set_body (p, body);
     975                 :             : 
     976                 :         542 :   return p;
     977                 :             : }
     978                 :             : 
     979                 :             : /* Build a GIMPLE_OMP_FOR statement.
     980                 :             : 
     981                 :             :    BODY is sequence of statements inside the for loop.
     982                 :             :    KIND is the `for' variant.
     983                 :             :    CLAUSES are any of the construct's clauses.
     984                 :             :    COLLAPSE is the collapse count.
     985                 :             :    PRE_BODY is the sequence of statements that are loop invariant.  */
     986                 :             : 
     987                 :             : gomp_for *
     988                 :       51326 : gimple_build_omp_for (gimple_seq body, int kind, tree clauses, size_t collapse,
     989                 :             :                       gimple_seq pre_body)
     990                 :             : {
     991                 :       51326 :   gomp_for *p = as_a <gomp_for *> (gimple_alloc (GIMPLE_OMP_FOR, 0));
     992                 :       51326 :   if (body)
     993                 :       47762 :     gimple_omp_set_body (p, body);
     994                 :       51326 :   gimple_omp_for_set_clauses (p, clauses);
     995                 :       51326 :   gimple_omp_for_set_kind (p, kind);
     996                 :       51326 :   p->collapse = collapse;
     997                 :       51326 :   p->iter =  ggc_cleared_vec_alloc<gimple_omp_for_iter> (collapse);
     998                 :             : 
     999                 :       51326 :   if (pre_body)
    1000                 :        2436 :     gimple_omp_for_set_pre_body (p, pre_body);
    1001                 :             : 
    1002                 :       51326 :   return p;
    1003                 :             : }
    1004                 :             : 
    1005                 :             : 
    1006                 :             : /* Build a GIMPLE_OMP_PARALLEL statement.
    1007                 :             : 
    1008                 :             :    BODY is sequence of statements which are executed in parallel.
    1009                 :             :    CLAUSES are the OMP parallel construct's clauses.
    1010                 :             :    CHILD_FN is the function created for the parallel threads to execute.
    1011                 :             :    DATA_ARG are the shared data argument(s).  */
    1012                 :             : 
    1013                 :             : gomp_parallel *
    1014                 :       18059 : gimple_build_omp_parallel (gimple_seq body, tree clauses, tree child_fn,
    1015                 :             :                            tree data_arg)
    1016                 :             : {
    1017                 :       18059 :   gomp_parallel *p
    1018                 :       18059 :     = as_a <gomp_parallel *> (gimple_alloc (GIMPLE_OMP_PARALLEL, 0));
    1019                 :       18059 :   if (body)
    1020                 :       17856 :     gimple_omp_set_body (p, body);
    1021                 :       18059 :   gimple_omp_parallel_set_clauses (p, clauses);
    1022                 :       18059 :   gimple_omp_parallel_set_child_fn (p, child_fn);
    1023                 :       18059 :   gimple_omp_parallel_set_data_arg (p, data_arg);
    1024                 :             : 
    1025                 :       18059 :   return p;
    1026                 :             : }
    1027                 :             : 
    1028                 :             : 
    1029                 :             : /* Build a GIMPLE_OMP_TASK statement.
    1030                 :             : 
    1031                 :             :    BODY is sequence of statements which are executed by the explicit task.
    1032                 :             :    CLAUSES are the OMP task construct's clauses.
    1033                 :             :    CHILD_FN is the function created for the parallel threads to execute.
    1034                 :             :    DATA_ARG are the shared data argument(s).
    1035                 :             :    COPY_FN is the optional function for firstprivate initialization.
    1036                 :             :    ARG_SIZE and ARG_ALIGN are size and alignment of the data block.  */
    1037                 :             : 
    1038                 :             : gomp_task *
    1039                 :        5591 : gimple_build_omp_task (gimple_seq body, tree clauses, tree child_fn,
    1040                 :             :                        tree data_arg, tree copy_fn, tree arg_size,
    1041                 :             :                        tree arg_align)
    1042                 :             : {
    1043                 :        5591 :   gomp_task *p = as_a <gomp_task *> (gimple_alloc (GIMPLE_OMP_TASK, 0));
    1044                 :        5591 :   if (body)
    1045                 :        5508 :     gimple_omp_set_body (p, body);
    1046                 :        5591 :   gimple_omp_task_set_clauses (p, clauses);
    1047                 :        5591 :   gimple_omp_task_set_child_fn (p, child_fn);
    1048                 :        5591 :   gimple_omp_task_set_data_arg (p, data_arg);
    1049                 :        5591 :   gimple_omp_task_set_copy_fn (p, copy_fn);
    1050                 :        5591 :   gimple_omp_task_set_arg_size (p, arg_size);
    1051                 :        5591 :   gimple_omp_task_set_arg_align (p, arg_align);
    1052                 :             : 
    1053                 :        5591 :   return p;
    1054                 :             : }
    1055                 :             : 
    1056                 :             : 
    1057                 :             : /* Build a GIMPLE_OMP_SECTION statement for a sections statement.
    1058                 :             : 
    1059                 :             :    BODY is the sequence of statements in the section.  */
    1060                 :             : 
    1061                 :             : gimple *
    1062                 :        1263 : gimple_build_omp_section (gimple_seq body)
    1063                 :             : {
    1064                 :        1263 :   gimple *p = gimple_alloc (GIMPLE_OMP_SECTION, 0);
    1065                 :        1263 :   if (body)
    1066                 :        1075 :     gimple_omp_set_body (p, body);
    1067                 :             : 
    1068                 :        1263 :   return p;
    1069                 :             : }
    1070                 :             : 
    1071                 :             : 
    1072                 :             : /* Build a GIMPLE_OMP_STRUCTURED_BLOCK statement.
    1073                 :             : 
    1074                 :             :    BODY is the structured block sequence.  */
    1075                 :             : 
    1076                 :             : gimple *
    1077                 :         774 : gimple_build_omp_structured_block (gimple_seq body)
    1078                 :             : {
    1079                 :         774 :   gimple *p = gimple_alloc (GIMPLE_OMP_STRUCTURED_BLOCK, 0);
    1080                 :         774 :   if (body)
    1081                 :         774 :     gimple_omp_set_body (p, body);
    1082                 :             : 
    1083                 :         774 :   return p;
    1084                 :             : }
    1085                 :             : 
    1086                 :             : 
    1087                 :             : /* Build a GIMPLE_OMP_MASTER statement.
    1088                 :             : 
    1089                 :             :    BODY is the sequence of statements to be executed by just the master.  */
    1090                 :             : 
    1091                 :             : gimple *
    1092                 :         882 : gimple_build_omp_master (gimple_seq body)
    1093                 :             : {
    1094                 :         882 :   gimple *p = gimple_alloc (GIMPLE_OMP_MASTER, 0);
    1095                 :         882 :   if (body)
    1096                 :         793 :     gimple_omp_set_body (p, body);
    1097                 :             : 
    1098                 :         882 :   return p;
    1099                 :             : }
    1100                 :             : 
    1101                 :             : /* Build a GIMPLE_OMP_MASKED statement.
    1102                 :             : 
    1103                 :             :    BODY is the sequence of statements to be executed by the selected thread(s).  */
    1104                 :             : 
    1105                 :             : gimple *
    1106                 :         446 : gimple_build_omp_masked (gimple_seq body, tree clauses)
    1107                 :             : {
    1108                 :         446 :   gimple *p = gimple_alloc (GIMPLE_OMP_MASKED, 0);
    1109                 :         446 :   gimple_omp_masked_set_clauses (p, clauses);
    1110                 :         446 :   if (body)
    1111                 :         386 :     gimple_omp_set_body (p, body);
    1112                 :             : 
    1113                 :         446 :   return p;
    1114                 :             : }
    1115                 :             : 
    1116                 :             : /* Build a GIMPLE_OMP_TASKGROUP statement.
    1117                 :             : 
    1118                 :             :    BODY is the sequence of statements to be executed by the taskgroup
    1119                 :             :    construct.
    1120                 :             :    CLAUSES are any of the construct's clauses.  */
    1121                 :             : 
    1122                 :             : gimple *
    1123                 :         611 : gimple_build_omp_taskgroup (gimple_seq body, tree clauses)
    1124                 :             : {
    1125                 :         611 :   gimple *p = gimple_alloc (GIMPLE_OMP_TASKGROUP, 0);
    1126                 :         611 :   gimple_omp_taskgroup_set_clauses (p, clauses);
    1127                 :         611 :   if (body)
    1128                 :         611 :     gimple_omp_set_body (p, body);
    1129                 :             : 
    1130                 :         611 :   return p;
    1131                 :             : }
    1132                 :             : 
    1133                 :             : 
    1134                 :             : /* Build a GIMPLE_OMP_CONTINUE statement.
    1135                 :             : 
    1136                 :             :    CONTROL_DEF is the definition of the control variable.
    1137                 :             :    CONTROL_USE is the use of the control variable.  */
    1138                 :             : 
    1139                 :             : gomp_continue *
    1140                 :       49923 : gimple_build_omp_continue (tree control_def, tree control_use)
    1141                 :             : {
    1142                 :       49923 :   gomp_continue *p
    1143                 :       49923 :     = as_a <gomp_continue *> (gimple_alloc (GIMPLE_OMP_CONTINUE, 0));
    1144                 :       49923 :   gimple_omp_continue_set_control_def (p, control_def);
    1145                 :       49923 :   gimple_omp_continue_set_control_use (p, control_use);
    1146                 :       49923 :   return p;
    1147                 :             : }
    1148                 :             : 
    1149                 :             : /* Build a GIMPLE_OMP_ORDERED statement.
    1150                 :             : 
    1151                 :             :    BODY is the sequence of statements inside a loop that will executed in
    1152                 :             :    sequence.
    1153                 :             :    CLAUSES are clauses for this statement.  */
    1154                 :             : 
    1155                 :             : gomp_ordered *
    1156                 :        1834 : gimple_build_omp_ordered (gimple_seq body, tree clauses)
    1157                 :             : {
    1158                 :        1834 :   gomp_ordered *p
    1159                 :        1834 :     = as_a <gomp_ordered *> (gimple_alloc (GIMPLE_OMP_ORDERED, 0));
    1160                 :        1834 :   gimple_omp_ordered_set_clauses (p, clauses);
    1161                 :        1834 :   if (body)
    1162                 :         501 :     gimple_omp_set_body (p, body);
    1163                 :             : 
    1164                 :        1834 :   return p;
    1165                 :             : }
    1166                 :             : 
    1167                 :             : 
    1168                 :             : /* Build a GIMPLE_OMP_RETURN statement.
    1169                 :             :    WAIT_P is true if this is a non-waiting return.  */
    1170                 :             : 
    1171                 :             : gimple *
    1172                 :       97186 : gimple_build_omp_return (bool wait_p)
    1173                 :             : {
    1174                 :       97186 :   gimple *p = gimple_alloc (GIMPLE_OMP_RETURN, 0);
    1175                 :       97186 :   if (wait_p)
    1176                 :       37298 :     gimple_omp_return_set_nowait (p);
    1177                 :             : 
    1178                 :       97186 :   return p;
    1179                 :             : }
    1180                 :             : 
    1181                 :             : 
    1182                 :             : /* Build a GIMPLE_OMP_SCAN statement.
    1183                 :             : 
    1184                 :             :    BODY is the sequence of statements to be executed by the scan
    1185                 :             :    construct.
    1186                 :             :    CLAUSES are any of the construct's clauses.  */
    1187                 :             : 
    1188                 :             : gomp_scan *
    1189                 :        1284 : gimple_build_omp_scan (gimple_seq body, tree clauses)
    1190                 :             : {
    1191                 :        1284 :   gomp_scan *p
    1192                 :        1284 :     = as_a <gomp_scan *> (gimple_alloc (GIMPLE_OMP_SCAN, 0));
    1193                 :        1284 :   gimple_omp_scan_set_clauses (p, clauses);
    1194                 :        1284 :   if (body)
    1195                 :        1070 :     gimple_omp_set_body (p, body);
    1196                 :             : 
    1197                 :        1284 :   return p;
    1198                 :             : }
    1199                 :             : 
    1200                 :             : 
    1201                 :             : /* Build a GIMPLE_OMP_SECTIONS statement.
    1202                 :             : 
    1203                 :             :    BODY is a sequence of section statements.
    1204                 :             :    CLAUSES are any of the OMP sections contsruct's clauses: private,
    1205                 :             :    firstprivate, lastprivate, reduction, and nowait.  */
    1206                 :             : 
    1207                 :             : gomp_sections *
    1208                 :         622 : gimple_build_omp_sections (gimple_seq body, tree clauses)
    1209                 :             : {
    1210                 :         622 :   gomp_sections *p
    1211                 :         622 :     = as_a <gomp_sections *> (gimple_alloc (GIMPLE_OMP_SECTIONS, 0));
    1212                 :         622 :   if (body)
    1213                 :         622 :     gimple_omp_set_body (p, body);
    1214                 :         622 :   gimple_omp_sections_set_clauses (p, clauses);
    1215                 :             : 
    1216                 :         622 :   return p;
    1217                 :             : }
    1218                 :             : 
    1219                 :             : 
    1220                 :             : /* Build a GIMPLE_OMP_SECTIONS_SWITCH.  */
    1221                 :             : 
    1222                 :             : gimple *
    1223                 :         378 : gimple_build_omp_sections_switch (void)
    1224                 :             : {
    1225                 :         378 :   return gimple_alloc (GIMPLE_OMP_SECTIONS_SWITCH, 0);
    1226                 :             : }
    1227                 :             : 
    1228                 :             : 
    1229                 :             : /* Build a GIMPLE_OMP_SINGLE statement.
    1230                 :             : 
    1231                 :             :    BODY is the sequence of statements that will be executed once.
    1232                 :             :    CLAUSES are any of the OMP single construct's clauses: private, firstprivate,
    1233                 :             :    copyprivate, nowait.  */
    1234                 :             : 
    1235                 :             : gomp_single *
    1236                 :        1277 : gimple_build_omp_single (gimple_seq body, tree clauses)
    1237                 :             : {
    1238                 :        1277 :   gomp_single *p
    1239                 :        1277 :     = as_a <gomp_single *> (gimple_alloc (GIMPLE_OMP_SINGLE, 0));
    1240                 :        1277 :   if (body)
    1241                 :        1172 :     gimple_omp_set_body (p, body);
    1242                 :        1277 :   gimple_omp_single_set_clauses (p, clauses);
    1243                 :             : 
    1244                 :        1277 :   return p;
    1245                 :             : }
    1246                 :             : 
    1247                 :             : 
    1248                 :             : /* Build a GIMPLE_OMP_SCOPE statement.
    1249                 :             : 
    1250                 :             :    BODY is the sequence of statements that will be executed once.
    1251                 :             :    CLAUSES are any of the OMP scope construct's clauses: private, reduction,
    1252                 :             :    nowait.  */
    1253                 :             : 
    1254                 :             : gimple *
    1255                 :         214 : gimple_build_omp_scope (gimple_seq body, tree clauses)
    1256                 :             : {
    1257                 :         214 :   gimple *p = gimple_alloc (GIMPLE_OMP_SCOPE, 0);
    1258                 :         214 :   gimple_omp_scope_set_clauses (p, clauses);
    1259                 :         214 :   if (body)
    1260                 :         156 :     gimple_omp_set_body (p, body);
    1261                 :             : 
    1262                 :         214 :   return p;
    1263                 :             : }
    1264                 :             : 
    1265                 :             : /* Build a GIMPLE_OMP_DISPATCH statement.
    1266                 :             : 
    1267                 :             :    BODY is the target function call to be dispatched.
    1268                 :             :    CLAUSES are any of the OMP dispatch construct's clauses.  */
    1269                 :             : 
    1270                 :             : gimple *
    1271                 :         528 : gimple_build_omp_dispatch (gimple_seq body, tree clauses)
    1272                 :             : {
    1273                 :         528 :   gimple *p = gimple_alloc (GIMPLE_OMP_DISPATCH, 0);
    1274                 :         528 :   gimple_omp_dispatch_set_clauses (p, clauses);
    1275                 :         528 :   if (body)
    1276                 :         528 :     gimple_omp_set_body (p, body);
    1277                 :             : 
    1278                 :         528 :   return p;
    1279                 :             : }
    1280                 :             : 
    1281                 :             : /* Build a GIMPLE_OMP_TARGET statement.
    1282                 :             : 
    1283                 :             :    BODY is the sequence of statements that will be executed.
    1284                 :             :    KIND is the kind of the region.
    1285                 :             :    CLAUSES are any of the construct's clauses.  */
    1286                 :             : 
    1287                 :             : gomp_target *
    1288                 :       39659 : gimple_build_omp_target (gimple_seq body, int kind, tree clauses)
    1289                 :             : {
    1290                 :       39659 :   gomp_target *p
    1291                 :       39659 :     = as_a <gomp_target *> (gimple_alloc (GIMPLE_OMP_TARGET, 0));
    1292                 :       39659 :   if (body)
    1293                 :       26490 :     gimple_omp_set_body (p, body);
    1294                 :       39659 :   gimple_omp_target_set_clauses (p, clauses);
    1295                 :       39659 :   gimple_omp_target_set_kind (p, kind);
    1296                 :             : 
    1297                 :       39659 :   return p;
    1298                 :             : }
    1299                 :             : 
    1300                 :             : 
    1301                 :             : /* Build a GIMPLE_OMP_TEAMS statement.
    1302                 :             : 
    1303                 :             :    BODY is the sequence of statements that will be executed.
    1304                 :             :    CLAUSES are any of the OMP teams construct's clauses.  */
    1305                 :             : 
    1306                 :             : gomp_teams *
    1307                 :        8684 : gimple_build_omp_teams (gimple_seq body, tree clauses)
    1308                 :             : {
    1309                 :        8684 :   gomp_teams *p = as_a <gomp_teams *> (gimple_alloc (GIMPLE_OMP_TEAMS, 0));
    1310                 :        8684 :   if (body)
    1311                 :        8684 :     gimple_omp_set_body (p, body);
    1312                 :        8684 :   gimple_omp_teams_set_clauses (p, clauses);
    1313                 :             : 
    1314                 :        8684 :   return p;
    1315                 :             : }
    1316                 :             : 
    1317                 :             : 
    1318                 :             : /* Build a GIMPLE_OMP_ATOMIC_LOAD statement.  */
    1319                 :             : 
    1320                 :             : gomp_atomic_load *
    1321                 :       10282 : gimple_build_omp_atomic_load (tree lhs, tree rhs, enum omp_memory_order mo)
    1322                 :             : {
    1323                 :       10282 :   gomp_atomic_load *p
    1324                 :       10282 :     = as_a <gomp_atomic_load *> (gimple_alloc (GIMPLE_OMP_ATOMIC_LOAD, 0));
    1325                 :       10282 :   gimple_omp_atomic_load_set_lhs (p, lhs);
    1326                 :       10282 :   gimple_omp_atomic_load_set_rhs (p, rhs);
    1327                 :       10282 :   gimple_omp_atomic_set_memory_order (p, mo);
    1328                 :       10282 :   return p;
    1329                 :             : }
    1330                 :             : 
    1331                 :             : /* Build a GIMPLE_OMP_ATOMIC_STORE statement.
    1332                 :             : 
    1333                 :             :    VAL is the value we are storing.  */
    1334                 :             : 
    1335                 :             : gomp_atomic_store *
    1336                 :       10282 : gimple_build_omp_atomic_store (tree val, enum omp_memory_order mo)
    1337                 :             : {
    1338                 :       10282 :   gomp_atomic_store *p
    1339                 :       10282 :     = as_a <gomp_atomic_store *> (gimple_alloc (GIMPLE_OMP_ATOMIC_STORE, 0));
    1340                 :       10282 :   gimple_omp_atomic_store_set_val (p, val);
    1341                 :       10282 :   gimple_omp_atomic_set_memory_order (p, mo);
    1342                 :       10282 :   return p;
    1343                 :             : }
    1344                 :             : 
    1345                 :             : /* Build a GIMPLE_ASSUME statement.  */
    1346                 :             : 
    1347                 :             : gimple *
    1348                 :         108 : gimple_build_assume (tree guard, gimple_seq body)
    1349                 :             : {
    1350                 :         108 :   gimple_statement_assume *p
    1351                 :         108 :     = as_a <gimple_statement_assume *> (gimple_alloc (GIMPLE_ASSUME, 0));
    1352                 :         108 :   gimple_assume_set_guard (p, guard);
    1353                 :         108 :   *gimple_assume_body_ptr (p) = body;
    1354                 :         108 :   return p;
    1355                 :             : }
    1356                 :             : 
    1357                 :             : /* Build a GIMPLE_TRANSACTION statement.  */
    1358                 :             : 
    1359                 :             : gtransaction *
    1360                 :         545 : gimple_build_transaction (gimple_seq body)
    1361                 :             : {
    1362                 :         545 :   gtransaction *p
    1363                 :         545 :     = as_a <gtransaction *> (gimple_alloc (GIMPLE_TRANSACTION, 0));
    1364                 :         545 :   gimple_transaction_set_body (p, body);
    1365                 :         545 :   gimple_transaction_set_label_norm (p, 0);
    1366                 :         545 :   gimple_transaction_set_label_uninst (p, 0);
    1367                 :         545 :   gimple_transaction_set_label_over (p, 0);
    1368                 :         545 :   return p;
    1369                 :             : }
    1370                 :             : 
    1371                 :             : #if defined ENABLE_GIMPLE_CHECKING
    1372                 :             : /* Complain of a gimple type mismatch and die.  */
    1373                 :             : 
    1374                 :             : void
    1375                 :           0 : gimple_check_failed (const gimple *gs, const char *file, int line,
    1376                 :             :                      const char *function, enum gimple_code code,
    1377                 :             :                      enum tree_code subcode)
    1378                 :             : {
    1379                 :           0 :   internal_error ("gimple check: expected %s(%s), have %s(%s) in %s, at %s:%d",
    1380                 :           0 :                   gimple_code_name[code],
    1381                 :             :                   get_tree_code_name (subcode),
    1382                 :           0 :                   gimple_code_name[gimple_code (gs)],
    1383                 :           0 :                   gs->subcode > 0
    1384                 :           0 :                     ? get_tree_code_name ((enum tree_code) gs->subcode)
    1385                 :             :                     : "",
    1386                 :             :                   function, trim_filename (file), line);
    1387                 :             : }
    1388                 :             : #endif /* ENABLE_GIMPLE_CHECKING */
    1389                 :             : 
    1390                 :             : 
    1391                 :             : /* Link gimple statement GS to the end of the sequence *SEQ_P.  If
    1392                 :             :    *SEQ_P is NULL, a new sequence is allocated.  */
    1393                 :             : 
    1394                 :             : void
    1395                 :    40342517 : gimple_seq_add_stmt (gimple_seq *seq_p, gimple *gs)
    1396                 :             : {
    1397                 :    40342517 :   gimple_stmt_iterator si;
    1398                 :    40342517 :   if (gs == NULL)
    1399                 :           0 :     return;
    1400                 :             : 
    1401                 :    40342517 :   si = gsi_last (*seq_p);
    1402                 :    40342517 :   gsi_insert_after (&si, gs, GSI_NEW_STMT);
    1403                 :             : }
    1404                 :             : 
    1405                 :             : /* Link gimple statement GS to the end of the sequence *SEQ_P.  If
    1406                 :             :    *SEQ_P is NULL, a new sequence is allocated.  This function is
    1407                 :             :    similar to gimple_seq_add_stmt, but does not scan the operands.
    1408                 :             :    During gimplification, we need to manipulate statement sequences
    1409                 :             :    before the def/use vectors have been constructed.  */
    1410                 :             : 
    1411                 :             : void
    1412                 :   159506750 : gimple_seq_add_stmt_without_update (gimple_seq *seq_p, gimple *gs)
    1413                 :             : {
    1414                 :   159506750 :   gimple_stmt_iterator si;
    1415                 :             : 
    1416                 :   159506750 :   if (gs == NULL)
    1417                 :           0 :     return;
    1418                 :             : 
    1419                 :   159506750 :   si = gsi_last (*seq_p);
    1420                 :   159506750 :   gsi_insert_after_without_update (&si, gs, GSI_NEW_STMT);
    1421                 :             : }
    1422                 :             : 
    1423                 :             : /* Append sequence SRC to the end of sequence *DST_P.  If *DST_P is
    1424                 :             :    NULL, a new sequence is allocated.  */
    1425                 :             : 
    1426                 :             : void
    1427                 :    14738835 : gimple_seq_add_seq (gimple_seq *dst_p, gimple_seq src)
    1428                 :             : {
    1429                 :    14738835 :   gimple_stmt_iterator si;
    1430                 :    14738835 :   if (src == NULL)
    1431                 :     4235883 :     return;
    1432                 :             : 
    1433                 :    10502952 :   si = gsi_last (*dst_p);
    1434                 :    10502952 :   gsi_insert_seq_after (&si, src, GSI_NEW_STMT);
    1435                 :             : }
    1436                 :             : 
    1437                 :             : /* Append sequence SRC to the end of sequence *DST_P.  If *DST_P is
    1438                 :             :    NULL, a new sequence is allocated.  This function is
    1439                 :             :    similar to gimple_seq_add_seq, but does not scan the operands.  */
    1440                 :             : 
    1441                 :             : void
    1442                 :      238229 : gimple_seq_add_seq_without_update (gimple_seq *dst_p, gimple_seq src)
    1443                 :             : {
    1444                 :      238229 :   gimple_stmt_iterator si;
    1445                 :      238229 :   if (src == NULL)
    1446                 :       82594 :     return;
    1447                 :             : 
    1448                 :      155635 :   si = gsi_last (*dst_p);
    1449                 :      155635 :   gsi_insert_seq_after_without_update (&si, src, GSI_NEW_STMT);
    1450                 :             : }
    1451                 :             : 
    1452                 :             : /* Determine whether to assign a location to the statement GS.  */
    1453                 :             : 
    1454                 :             : static bool
    1455                 :   263402391 : should_carry_location_p (gimple *gs)
    1456                 :             : {
    1457                 :             :   /* Don't emit a line note for a label.  We particularly don't want to
    1458                 :             :      emit one for the break label, since it doesn't actually correspond
    1459                 :             :      to the beginning of the loop/switch.  */
    1460                 :   263402391 :   if (gimple_code (gs) == GIMPLE_LABEL)
    1461                 :           0 :     return false;
    1462                 :             : 
    1463                 :             :   return true;
    1464                 :             : }
    1465                 :             : 
    1466                 :             : /* Set the location for gimple statement GS to LOCATION.  */
    1467                 :             : 
    1468                 :             : static void
    1469                 :   660552384 : annotate_one_with_location (gimple *gs, location_t location)
    1470                 :             : {
    1471                 :   660552384 :   if (!gimple_has_location (gs)
    1472                 :   332518874 :       && !gimple_do_not_emit_location_p (gs)
    1473                 :   660552384 :       && should_carry_location_p (gs))
    1474                 :    24232185 :     gimple_set_location (gs, location);
    1475                 :   660552384 : }
    1476                 :             : 
    1477                 :             : /* Set LOCATION for all the statements after iterator GSI in sequence
    1478                 :             :    SEQ.  If GSI is pointing to the end of the sequence, start with the
    1479                 :             :    first statement in SEQ.  */
    1480                 :             : 
    1481                 :             : void
    1482                 :    93776767 : annotate_all_with_location_after (gimple_seq seq, gimple_stmt_iterator gsi,
    1483                 :             :                                   location_t location)
    1484                 :             : {
    1485                 :    93776767 :   if (gsi_end_p (gsi))
    1486                 :    32194553 :     gsi = gsi_start (seq);
    1487                 :             :   else
    1488                 :    61582214 :     gsi_next (&gsi);
    1489                 :             : 
    1490                 :   754065886 :   for (; !gsi_end_p (gsi); gsi_next (&gsi))
    1491                 :   660289119 :     annotate_one_with_location (gsi_stmt (gsi), location);
    1492                 :    93776767 : }
    1493                 :             : 
    1494                 :             : /* Set the location for all the statements in a sequence STMT_P to LOCATION.  */
    1495                 :             : 
    1496                 :             : void
    1497                 :      173492 : annotate_all_with_location (gimple_seq stmt_p, location_t location)
    1498                 :             : {
    1499                 :      173492 :   gimple_stmt_iterator i;
    1500                 :             : 
    1501                 :      173492 :   if (gimple_seq_empty_p (stmt_p))
    1502                 :      173492 :     return;
    1503                 :             : 
    1504                 :      429691 :   for (i = gsi_start (stmt_p); !gsi_end_p (i); gsi_next (&i))
    1505                 :             :     {
    1506                 :      263265 :       gimple *gs = gsi_stmt (i);
    1507                 :      263265 :       annotate_one_with_location (gs, location);
    1508                 :             :     }
    1509                 :             : }
    1510                 :             : 
    1511                 :             : /* Helper function of empty_body_p.  Return true if STMT is an empty
    1512                 :             :    statement.  */
    1513                 :             : 
    1514                 :             : static bool
    1515                 :       36224 : empty_stmt_p (gimple *stmt)
    1516                 :             : {
    1517                 :       36224 :   if (gimple_code (stmt) == GIMPLE_NOP)
    1518                 :             :     return true;
    1519                 :       36222 :   if (gbind *bind_stmt = dyn_cast <gbind *> (stmt))
    1520                 :       21405 :     return empty_body_p (gimple_bind_body (bind_stmt));
    1521                 :             :   return false;
    1522                 :             : }
    1523                 :             : 
    1524                 :             : 
    1525                 :             : /* Return true if BODY contains nothing but empty statements.  */
    1526                 :             : 
    1527                 :             : bool
    1528                 :       36297 : empty_body_p (gimple_seq body)
    1529                 :             : {
    1530                 :       36297 :   gimple_stmt_iterator i;
    1531                 :             : 
    1532                 :       36297 :   if (gimple_seq_empty_p (body))
    1533                 :             :     return true;
    1534                 :       36401 :   for (i = gsi_start (body); !gsi_end_p (i); gsi_next (&i))
    1535                 :       36224 :     if (!empty_stmt_p (gsi_stmt (i))
    1536                 :       36224 :         && !is_gimple_debug (gsi_stmt (i)))
    1537                 :             :       return false;
    1538                 :             : 
    1539                 :             :   return true;
    1540                 :             : }
    1541                 :             : 
    1542                 :             : 
    1543                 :             : /* Perform a deep copy of sequence SRC and return the result.  */
    1544                 :             : 
    1545                 :             : gimple_seq
    1546                 :     1636044 : gimple_seq_copy (gimple_seq src)
    1547                 :             : {
    1548                 :     1636044 :   gimple_stmt_iterator gsi;
    1549                 :     1636044 :   gimple_seq new_seq = NULL;
    1550                 :     1636044 :   gimple *stmt;
    1551                 :             : 
    1552                 :     3647789 :   for (gsi = gsi_start (src); !gsi_end_p (gsi); gsi_next (&gsi))
    1553                 :             :     {
    1554                 :     2011745 :       stmt = gimple_copy (gsi_stmt (gsi));
    1555                 :     2011745 :       gimple_seq_add_stmt (&new_seq, stmt);
    1556                 :             :     }
    1557                 :             : 
    1558                 :     1636044 :   return new_seq;
    1559                 :             : }
    1560                 :             : 
    1561                 :             : 
    1562                 :             : 
    1563                 :             : /* Return true if calls C1 and C2 are known to go to the same function.  */
    1564                 :             : 
    1565                 :             : bool
    1566                 :      907648 : gimple_call_same_target_p (const gimple *c1, const gimple *c2)
    1567                 :             : {
    1568                 :      907648 :   if (gimple_call_internal_p (c1))
    1569                 :         378 :     return (gimple_call_internal_p (c2)
    1570                 :         378 :             && gimple_call_internal_fn (c1) == gimple_call_internal_fn (c2)
    1571                 :         756 :             && (!gimple_call_internal_unique_p (as_a <const gcall *> (c1))
    1572                 :           0 :                 || c1 == c2));
    1573                 :             :   else
    1574                 :      907270 :     return (gimple_call_fn (c1) == gimple_call_fn (c2)
    1575                 :      907270 :             || (gimple_call_fndecl (c1)
    1576                 :      906827 :                 && gimple_call_fndecl (c1) == gimple_call_fndecl (c2)));
    1577                 :             : }
    1578                 :             : 
    1579                 :             : /* Detect flags from a GIMPLE_CALL.  This is just like
    1580                 :             :    call_expr_flags, but for gimple tuples.  */
    1581                 :             : 
    1582                 :             : int
    1583                 :  3931199104 : gimple_call_flags (const gimple *stmt)
    1584                 :             : {
    1585                 :  3931199104 :   int flags = 0;
    1586                 :             : 
    1587                 :  3931199104 :   if (gimple_call_internal_p (stmt))
    1588                 :    78106661 :     flags = internal_fn_flags (gimple_call_internal_fn (stmt));
    1589                 :             :   else
    1590                 :             :     {
    1591                 :  3853092443 :       tree decl = gimple_call_fndecl (stmt);
    1592                 :  3853092443 :       if (decl)
    1593                 :  3730594395 :         flags = flags_from_decl_or_type (decl);
    1594                 :  3853092443 :       flags |= flags_from_decl_or_type (gimple_call_fntype (stmt));
    1595                 :             :     }
    1596                 :             : 
    1597                 :  3931199104 :   if (stmt->subcode & GF_CALL_NOTHROW)
    1598                 :   642245406 :     flags |= ECF_NOTHROW;
    1599                 :  3931199104 :   if (stmt->subcode & GF_CALL_XTHROW)
    1600                 :    10115059 :     flags |= ECF_XTHROW;
    1601                 :             : 
    1602                 :  3931199104 :   if (stmt->subcode & GF_CALL_BY_DESCRIPTOR)
    1603                 :           0 :     flags |= ECF_BY_DESCRIPTOR;
    1604                 :             : 
    1605                 :  3931199104 :   return flags;
    1606                 :             : }
    1607                 :             : 
    1608                 :             : /* Return the "fn spec" string for call STMT.  */
    1609                 :             : 
    1610                 :             : attr_fnspec
    1611                 :   384097741 : gimple_call_fnspec (const gcall *stmt)
    1612                 :             : {
    1613                 :   384097741 :   tree type, attr;
    1614                 :             : 
    1615                 :   384097741 :   if (gimple_call_internal_p (stmt))
    1616                 :             :     {
    1617                 :     7024489 :       const_tree spec = internal_fn_fnspec (gimple_call_internal_fn (stmt));
    1618                 :     7024489 :       if (spec)
    1619                 :      296758 :         return spec;
    1620                 :             :       else
    1621                 :     6727731 :         return "";
    1622                 :             :     }
    1623                 :             : 
    1624                 :   377073252 :   type = gimple_call_fntype (stmt);
    1625                 :   377073252 :   if (type)
    1626                 :             :     {
    1627                 :   377073252 :       attr = lookup_attribute ("fn spec", TYPE_ATTRIBUTES (type));
    1628                 :   377073252 :       if (attr)
    1629                 :    53748953 :         return TREE_VALUE (TREE_VALUE (attr));
    1630                 :             :     }
    1631                 :   323324299 :   if (gimple_call_builtin_p (stmt, BUILT_IN_NORMAL))
    1632                 :    99429772 :     return builtin_fnspec (gimple_call_fndecl (stmt));
    1633                 :   223894527 :   tree fndecl = gimple_call_fndecl (stmt);
    1634                 :             :   /* If the call is to a replaceable operator delete and results
    1635                 :             :      from a delete expression as opposed to a direct call to
    1636                 :             :      such operator, then we can treat it as free.  */
    1637                 :   223894527 :   if (fndecl
    1638                 :   211190017 :       && DECL_IS_OPERATOR_DELETE_P (fndecl)
    1639                 :     5111312 :       && DECL_IS_REPLACEABLE_OPERATOR (fndecl)
    1640                 :   229004354 :       && gimple_call_from_new_or_delete (stmt))
    1641                 :             :     {
    1642                 :     5039968 :       if (flag_assume_sane_operators_new_delete)
    1643                 :     5039068 :         return ".co ";
    1644                 :             :       else
    1645                 :         900 :         return ". o ";
    1646                 :             :     }
    1647                 :             :   /* Similarly operator new can be treated as malloc.  */
    1648                 :   218854559 :   if (fndecl
    1649                 :   206150049 :       && DECL_IS_REPLACEABLE_OPERATOR_NEW_P (fndecl)
    1650                 :   220499621 :       && gimple_call_from_new_or_delete (stmt))
    1651                 :             :     {
    1652                 :     1600023 :       if (flag_assume_sane_operators_new_delete)
    1653                 :     1599305 :         return "mC";
    1654                 :             :       else
    1655                 :         718 :         return "m ";
    1656                 :             :     }
    1657                 :   217254536 :   return "";
    1658                 :             : }
    1659                 :             : 
    1660                 :             : /* Detects argument flags for argument number ARG on call STMT.  */
    1661                 :             : 
    1662                 :             : int
    1663                 :    99928364 : gimple_call_arg_flags (const gcall *stmt, unsigned arg)
    1664                 :             : {
    1665                 :    99928364 :   attr_fnspec fnspec = gimple_call_fnspec (stmt);
    1666                 :    99928364 :   int flags = 0;
    1667                 :             : 
    1668                 :    99928364 :   if (fnspec.known_p ())
    1669                 :    19192261 :     flags = fnspec.arg_eaf_flags (arg);
    1670                 :    99928364 :   tree callee = gimple_call_fndecl (stmt);
    1671                 :    99928364 :   if (callee)
    1672                 :             :     {
    1673                 :    94076314 :       cgraph_node *node = cgraph_node::get (callee);
    1674                 :    94076314 :       modref_summary *summary = node ? get_modref_function_summary (node)
    1675                 :   193817543 :                                 : NULL;
    1676                 :             : 
    1677                 :    93889179 :       if (summary && summary->arg_flags.length () > arg)
    1678                 :             :         {
    1679                 :    17459571 :           int modref_flags = summary->arg_flags[arg];
    1680                 :             : 
    1681                 :             :           /* We have possibly optimized out load.  Be conservative here.  */
    1682                 :    17459571 :           if (!node->binds_to_current_def_p ())
    1683                 :     7339391 :             modref_flags = interposable_eaf_flags (modref_flags, flags);
    1684                 :    17459571 :           if (dbg_cnt (ipa_mod_ref_pta))
    1685                 :    17459571 :             flags |= modref_flags;
    1686                 :             :         }
    1687                 :             :     }
    1688                 :    99928364 :   return flags;
    1689                 :             : }
    1690                 :             : 
    1691                 :             : /* Detects argument flags for return slot on call STMT.  */
    1692                 :             : 
    1693                 :             : int
    1694                 :       92069 : gimple_call_retslot_flags (const gcall *stmt)
    1695                 :             : {
    1696                 :       92069 :   int flags = implicit_retslot_eaf_flags;
    1697                 :             : 
    1698                 :       92069 :   tree callee = gimple_call_fndecl (stmt);
    1699                 :       92069 :   if (callee)
    1700                 :             :     {
    1701                 :       80915 :       cgraph_node *node = cgraph_node::get (callee);
    1702                 :       80915 :       modref_summary *summary = node ? get_modref_function_summary (node)
    1703                 :      172984 :                                 : NULL;
    1704                 :             : 
    1705                 :       80915 :       if (summary)
    1706                 :             :         {
    1707                 :       47799 :           int modref_flags = summary->retslot_flags;
    1708                 :             : 
    1709                 :             :           /* We have possibly optimized out load.  Be conservative here.  */
    1710                 :       47799 :           if (!node->binds_to_current_def_p ())
    1711                 :       41117 :             modref_flags = interposable_eaf_flags (modref_flags, flags);
    1712                 :       47799 :           if (dbg_cnt (ipa_mod_ref_pta))
    1713                 :       47799 :             flags |= modref_flags;
    1714                 :             :         }
    1715                 :             :     }
    1716                 :       92069 :   return flags;
    1717                 :             : }
    1718                 :             : 
    1719                 :             : /* Detects argument flags for static chain on call STMT.  */
    1720                 :             : 
    1721                 :             : int
    1722                 :      179919 : gimple_call_static_chain_flags (const gcall *stmt)
    1723                 :             : {
    1724                 :      179919 :   int flags = 0;
    1725                 :             : 
    1726                 :      179919 :   tree callee = gimple_call_fndecl (stmt);
    1727                 :      179919 :   if (callee)
    1728                 :             :     {
    1729                 :       27678 :       cgraph_node *node = cgraph_node::get (callee);
    1730                 :       27678 :       modref_summary *summary = node ? get_modref_function_summary (node)
    1731                 :       27678 :                                 : NULL;
    1732                 :             : 
    1733                 :             :       /* Nested functions should always bind to current def since
    1734                 :             :          there is no public ABI for them.  */
    1735                 :       27678 :       gcc_checking_assert (node->binds_to_current_def_p ());
    1736                 :       27678 :       if (summary)
    1737                 :             :         {
    1738                 :       25957 :           int modref_flags = summary->static_chain_flags;
    1739                 :             : 
    1740                 :       25957 :           if (dbg_cnt (ipa_mod_ref_pta))
    1741                 :      179919 :             flags |= modref_flags;
    1742                 :             :         }
    1743                 :             :     }
    1744                 :      179919 :   return flags;
    1745                 :             : }
    1746                 :             : 
    1747                 :             : /* Detects return flags for the call STMT.  */
    1748                 :             : 
    1749                 :             : int
    1750                 :    44830243 : gimple_call_return_flags (const gcall *stmt)
    1751                 :             : {
    1752                 :    44830243 :   if (gimple_call_flags (stmt) & ECF_MALLOC)
    1753                 :             :     return ERF_NOALIAS;
    1754                 :             : 
    1755                 :    43360377 :   attr_fnspec fnspec = gimple_call_fnspec (stmt);
    1756                 :             : 
    1757                 :    43360377 :   unsigned int arg_no;
    1758                 :    43360377 :   if (fnspec.returns_arg (&arg_no))
    1759                 :      902752 :     return ERF_RETURNS_ARG | arg_no;
    1760                 :             : 
    1761                 :    42457625 :   if (fnspec.returns_noalias_p ())
    1762                 :             :     return ERF_NOALIAS;
    1763                 :             :   return 0;
    1764                 :             : }
    1765                 :             : 
    1766                 :             : 
    1767                 :             : /* Return true if call STMT is known to return a non-zero result.  */
    1768                 :             : 
    1769                 :             : bool
    1770                 :    11772596 : gimple_call_nonnull_result_p (gcall *call)
    1771                 :             : {
    1772                 :    11772596 :   tree fndecl = gimple_call_fndecl (call);
    1773                 :    11772596 :   if (!fndecl)
    1774                 :             :     return false;
    1775                 :    10864926 :   if (flag_delete_null_pointer_checks && !flag_check_new
    1776                 :    10864877 :       && DECL_IS_OPERATOR_NEW_P (fndecl)
    1777                 :    11161708 :       && !TREE_NOTHROW (fndecl))
    1778                 :             :     return true;
    1779                 :             : 
    1780                 :             :   /* References are always non-NULL.  */
    1781                 :    10582734 :   if (flag_delete_null_pointer_checks
    1782                 :    10582734 :       && TREE_CODE (TREE_TYPE (fndecl)) == REFERENCE_TYPE)
    1783                 :             :     return true;
    1784                 :             : 
    1785                 :    10582734 :   if (flag_delete_null_pointer_checks
    1786                 :    21159296 :       && lookup_attribute ("returns_nonnull",
    1787                 :    10576562 :                            TYPE_ATTRIBUTES (gimple_call_fntype (call))))
    1788                 :             :     return true;
    1789                 :    10510748 :   return gimple_alloca_call_p (call);
    1790                 :             : }
    1791                 :             : 
    1792                 :             : 
    1793                 :             : /* If CALL returns a non-null result in an argument, return that arg.  */
    1794                 :             : 
    1795                 :             : tree
    1796                 :    11351261 : gimple_call_nonnull_arg (gcall *call)
    1797                 :             : {
    1798                 :    11351261 :   tree fndecl = gimple_call_fndecl (call);
    1799                 :    11351261 :   if (!fndecl)
    1800                 :             :     return NULL_TREE;
    1801                 :             : 
    1802                 :    10449763 :   unsigned rf = gimple_call_return_flags (call);
    1803                 :    10449763 :   if (rf & ERF_RETURNS_ARG)
    1804                 :             :     {
    1805                 :           0 :       unsigned argnum = rf & ERF_RETURN_ARG_MASK;
    1806                 :           0 :       if (argnum < gimple_call_num_args (call))
    1807                 :             :         {
    1808                 :           0 :           tree arg = gimple_call_arg (call, argnum);
    1809                 :           0 :           if (SSA_VAR_P (arg)
    1810                 :           0 :               && infer_nonnull_range_by_attribute (call, arg))
    1811                 :             :             return arg;
    1812                 :             :         }
    1813                 :             :     }
    1814                 :             :   return NULL_TREE;
    1815                 :             : }
    1816                 :             : 
    1817                 :             : 
    1818                 :             : /* Return true if GS is a copy assignment.  */
    1819                 :             : 
    1820                 :             : bool
    1821                 :   184255079 : gimple_assign_copy_p (gimple *gs)
    1822                 :             : {
    1823                 :   184255079 :   return (gimple_assign_single_p (gs)
    1824                 :   184255079 :           && is_gimple_val (gimple_op (gs, 1)));
    1825                 :             : }
    1826                 :             : 
    1827                 :             : 
    1828                 :             : /* Return true if GS is a SSA_NAME copy assignment.  */
    1829                 :             : 
    1830                 :             : bool
    1831                 :    37010855 : gimple_assign_ssa_name_copy_p (gimple *gs)
    1832                 :             : {
    1833                 :    37010855 :   return (gimple_assign_single_p (gs)
    1834                 :    21472809 :           && TREE_CODE (gimple_assign_lhs (gs)) == SSA_NAME
    1835                 :    49523925 :           && TREE_CODE (gimple_assign_rhs1 (gs)) == SSA_NAME);
    1836                 :             : }
    1837                 :             : 
    1838                 :             : 
    1839                 :             : /* Return true if GS is an assignment with a unary RHS, but the
    1840                 :             :    operator has no effect on the assigned value.  The logic is adapted
    1841                 :             :    from STRIP_NOPS.  This predicate is intended to be used in tuplifying
    1842                 :             :    instances in which STRIP_NOPS was previously applied to the RHS of
    1843                 :             :    an assignment.
    1844                 :             : 
    1845                 :             :    NOTE: In the use cases that led to the creation of this function
    1846                 :             :    and of gimple_assign_single_p, it is typical to test for either
    1847                 :             :    condition and to proceed in the same manner.  In each case, the
    1848                 :             :    assigned value is represented by the single RHS operand of the
    1849                 :             :    assignment.  I suspect there may be cases where gimple_assign_copy_p,
    1850                 :             :    gimple_assign_single_p, or equivalent logic is used where a similar
    1851                 :             :    treatment of unary NOPs is appropriate.  */
    1852                 :             : 
    1853                 :             : bool
    1854                 :       52175 : gimple_assign_unary_nop_p (gimple *gs)
    1855                 :             : {
    1856                 :       52175 :   return (is_gimple_assign (gs)
    1857                 :       52175 :           && (CONVERT_EXPR_CODE_P (gimple_assign_rhs_code (gs))
    1858                 :       43156 :               || gimple_assign_rhs_code (gs) == NON_LVALUE_EXPR)
    1859                 :        9019 :           && gimple_assign_rhs1 (gs) != error_mark_node
    1860                 :       70213 :           && (TYPE_MODE (TREE_TYPE (gimple_assign_lhs (gs)))
    1861                 :        9019 :               == TYPE_MODE (TREE_TYPE (gimple_assign_rhs1 (gs)))));
    1862                 :             : }
    1863                 :             : 
    1864                 :             : /* Return true if GS is an assignment that loads from its rhs1.  */
    1865                 :             : 
    1866                 :             : bool
    1867                 :   702203578 : gimple_assign_load_p (const gimple *gs)
    1868                 :             : {
    1869                 :   702203578 :   tree rhs;
    1870                 :   702203578 :   if (!gimple_assign_single_p (gs))
    1871                 :             :     return false;
    1872                 :   416445025 :   rhs = gimple_assign_rhs1 (gs);
    1873                 :   416445025 :   if (TREE_CODE (rhs) == WITH_SIZE_EXPR)
    1874                 :             :     return true;
    1875                 :   416445020 :   if (handled_component_p (rhs))
    1876                 :   123108934 :     rhs = TREE_OPERAND (rhs, 0);
    1877                 :   416445020 :   return (handled_component_p (rhs)
    1878                 :   380802123 :           || DECL_P (rhs)
    1879                 :   301420858 :           || TREE_CODE (rhs) == MEM_REF
    1880                 :   217252728 :           || TREE_CODE (rhs) == TARGET_MEM_REF);
    1881                 :             : }
    1882                 :             : 
    1883                 :             : 
    1884                 :             : /* Set BB to be the basic block holding G.  */
    1885                 :             : 
    1886                 :             : void
    1887                 :   609136042 : gimple_set_bb (gimple *stmt, basic_block bb)
    1888                 :             : {
    1889                 :   609136042 :   stmt->bb = bb;
    1890                 :             : 
    1891                 :   609136042 :   if (gimple_code (stmt) != GIMPLE_LABEL)
    1892                 :             :     return;
    1893                 :             : 
    1894                 :             :   /* If the statement is a label, add the label to block-to-labels map
    1895                 :             :      so that we can speed up edge creation for GIMPLE_GOTOs.  */
    1896                 :    35962948 :   if (cfun->cfg)
    1897                 :             :     {
    1898                 :    35962728 :       tree t;
    1899                 :    35962728 :       int uid;
    1900                 :             : 
    1901                 :    35962728 :       t = gimple_label_label (as_a <glabel *> (stmt));
    1902                 :    35962728 :       uid = LABEL_DECL_UID (t);
    1903                 :    35962728 :       if (uid == -1)
    1904                 :             :         {
    1905                 :    18345248 :           unsigned old_len =
    1906                 :    18345248 :             vec_safe_length (label_to_block_map_for_fn (cfun));
    1907                 :    18345248 :           LABEL_DECL_UID (t) = uid = cfun->cfg->last_label_uid++;
    1908                 :    18345248 :           if (old_len <= (unsigned) uid)
    1909                 :     8962138 :             vec_safe_grow_cleared (label_to_block_map_for_fn (cfun), uid + 1);
    1910                 :             :         }
    1911                 :             : 
    1912                 :    35962728 :       (*label_to_block_map_for_fn (cfun))[uid] = bb;
    1913                 :             :     }
    1914                 :             : }
    1915                 :             : 
    1916                 :             : 
    1917                 :             : /* Modify the RHS of the assignment pointed-to by GSI using the
    1918                 :             :    operands in the expression tree EXPR.
    1919                 :             : 
    1920                 :             :    NOTE: The statement pointed-to by GSI may be reallocated if it
    1921                 :             :    did not have enough operand slots.
    1922                 :             : 
    1923                 :             :    This function is useful to convert an existing tree expression into
    1924                 :             :    the flat representation used for the RHS of a GIMPLE assignment.
    1925                 :             :    It will reallocate memory as needed to expand or shrink the number
    1926                 :             :    of operand slots needed to represent EXPR.
    1927                 :             : 
    1928                 :             :    NOTE: If you find yourself building a tree and then calling this
    1929                 :             :    function, you are most certainly doing it the slow way.  It is much
    1930                 :             :    better to build a new assignment or to use the function
    1931                 :             :    gimple_assign_set_rhs_with_ops, which does not require an
    1932                 :             :    expression tree to be built.  */
    1933                 :             : 
    1934                 :             : void
    1935                 :     4012803 : gimple_assign_set_rhs_from_tree (gimple_stmt_iterator *gsi, tree expr)
    1936                 :             : {
    1937                 :     4012803 :   enum tree_code subcode;
    1938                 :     4012803 :   tree op1, op2, op3;
    1939                 :             : 
    1940                 :     4012803 :   extract_ops_from_tree (expr, &subcode, &op1, &op2, &op3);
    1941                 :     4012803 :   gimple_assign_set_rhs_with_ops (gsi, subcode, op1, op2, op3);
    1942                 :     4012803 : }
    1943                 :             : 
    1944                 :             : 
    1945                 :             : /* Set the RHS of assignment statement pointed-to by GSI to CODE with
    1946                 :             :    operands OP1, OP2 and OP3.
    1947                 :             : 
    1948                 :             :    NOTE: The statement pointed-to by GSI may be reallocated if it
    1949                 :             :    did not have enough operand slots.  */
    1950                 :             : 
    1951                 :             : void
    1952                 :     6248405 : gimple_assign_set_rhs_with_ops (gimple_stmt_iterator *gsi, enum tree_code code,
    1953                 :             :                                 tree op1, tree op2, tree op3)
    1954                 :             : {
    1955                 :     6248405 :   unsigned new_rhs_ops = get_gimple_rhs_num_ops (code);
    1956                 :     6248405 :   gimple *stmt = gsi_stmt (*gsi);
    1957                 :     6248405 :   gimple *old_stmt = stmt;
    1958                 :             : 
    1959                 :             :   /* If the new CODE needs more operands, allocate a new statement.  */
    1960                 :     6248405 :   if (gimple_num_ops (stmt) < new_rhs_ops + 1)
    1961                 :             :     {
    1962                 :      158615 :       tree lhs = gimple_assign_lhs (old_stmt);
    1963                 :      158615 :       stmt = gimple_alloc (gimple_code (old_stmt), new_rhs_ops + 1);
    1964                 :      158615 :       memcpy (stmt, old_stmt, gimple_size (gimple_code (old_stmt)));
    1965                 :      158615 :       gimple_init_singleton (stmt);
    1966                 :             : 
    1967                 :             :       /* The LHS needs to be reset as this also changes the SSA name
    1968                 :             :          on the LHS.  */
    1969                 :      158615 :       gimple_assign_set_lhs (stmt, lhs);
    1970                 :             :     }
    1971                 :             : 
    1972                 :     6248405 :   gimple_set_num_ops (stmt, new_rhs_ops + 1);
    1973                 :     6248405 :   gimple_set_subcode (stmt, code);
    1974                 :     6248405 :   gimple_assign_set_rhs1 (stmt, op1);
    1975                 :     6248405 :   if (new_rhs_ops > 1)
    1976                 :      902511 :     gimple_assign_set_rhs2 (stmt, op2);
    1977                 :      902511 :   if (new_rhs_ops > 2)
    1978                 :       32151 :     gimple_assign_set_rhs3 (stmt, op3);
    1979                 :     6248405 :   if (stmt != old_stmt)
    1980                 :      158615 :     gsi_replace (gsi, stmt, false);
    1981                 :     6248405 : }
    1982                 :             : 
    1983                 :             : 
    1984                 :             : /* Return the LHS of a statement that performs an assignment,
    1985                 :             :    either a GIMPLE_ASSIGN or a GIMPLE_CALL.  Returns NULL_TREE
    1986                 :             :    for a call to a function that returns no value, or for a
    1987                 :             :    statement other than an assignment or a call.  */
    1988                 :             : 
    1989                 :             : tree
    1990                 :  5927339613 : gimple_get_lhs (const gimple *stmt)
    1991                 :             : {
    1992                 :  5927339613 :   enum gimple_code code = gimple_code (stmt);
    1993                 :             : 
    1994                 :  5927339613 :   if (code == GIMPLE_ASSIGN)
    1995                 :  3891844398 :     return gimple_assign_lhs (stmt);
    1996                 :  2035495215 :   else if (code == GIMPLE_CALL)
    1997                 :   438324304 :     return gimple_call_lhs (stmt);
    1998                 :  1597170911 :   else if (code == GIMPLE_PHI)
    1999                 :   129179464 :     return gimple_phi_result (stmt);
    2000                 :             :   else
    2001                 :             :     return NULL_TREE;
    2002                 :             : }
    2003                 :             : 
    2004                 :             : 
    2005                 :             : /* Set the LHS of a statement that performs an assignment,
    2006                 :             :    either a GIMPLE_ASSIGN or a GIMPLE_CALL.  */
    2007                 :             : 
    2008                 :             : void
    2009                 :     2052799 : gimple_set_lhs (gimple *stmt, tree lhs)
    2010                 :             : {
    2011                 :     2052799 :   enum gimple_code code = gimple_code (stmt);
    2012                 :             : 
    2013                 :     2052799 :   if (code == GIMPLE_ASSIGN)
    2014                 :     1004701 :     gimple_assign_set_lhs (stmt, lhs);
    2015                 :     1048098 :   else if (code == GIMPLE_CALL)
    2016                 :     1048098 :     gimple_call_set_lhs (stmt, lhs);
    2017                 :             :   else
    2018                 :           0 :     gcc_unreachable ();
    2019                 :     2052799 : }
    2020                 :             : 
    2021                 :             : 
    2022                 :             : /* Return a deep copy of statement STMT.  All the operands from STMT
    2023                 :             :    are reallocated and copied using unshare_expr.  The DEF, USE, VDEF
    2024                 :             :    and VUSE operand arrays are set to empty in the new copy.  The new
    2025                 :             :    copy isn't part of any sequence.  */
    2026                 :             : 
    2027                 :             : gimple *
    2028                 :    54927424 : gimple_copy (gimple *stmt)
    2029                 :             : {
    2030                 :    54927424 :   enum gimple_code code = gimple_code (stmt);
    2031                 :    54927424 :   unsigned num_ops = gimple_num_ops (stmt);
    2032                 :    54927424 :   gimple *copy = gimple_alloc (code, num_ops);
    2033                 :    54927424 :   unsigned i;
    2034                 :             : 
    2035                 :             :   /* Shallow copy all the fields from STMT.  */
    2036                 :    54927424 :   memcpy (copy, stmt, gimple_size (code));
    2037                 :    54927424 :   gimple_init_singleton (copy);
    2038                 :             : 
    2039                 :             :   /* If STMT has sub-statements, deep-copy them as well.  */
    2040                 :    54927424 :   if (gimple_has_substatements (stmt))
    2041                 :             :     {
    2042                 :       42283 :       gimple_seq new_seq;
    2043                 :       42283 :       tree t;
    2044                 :             : 
    2045                 :       42283 :       switch (gimple_code (stmt))
    2046                 :             :         {
    2047                 :         349 :         case GIMPLE_BIND:
    2048                 :         349 :           {
    2049                 :         349 :             gbind *bind_stmt = as_a <gbind *> (stmt);
    2050                 :         349 :             gbind *bind_copy = as_a <gbind *> (copy);
    2051                 :         349 :             new_seq = gimple_seq_copy (gimple_bind_body (bind_stmt));
    2052                 :         349 :             gimple_bind_set_body (bind_copy, new_seq);
    2053                 :         349 :             gimple_bind_set_vars (bind_copy,
    2054                 :             :                                   unshare_expr (gimple_bind_vars (bind_stmt)));
    2055                 :         349 :             gimple_bind_set_block (bind_copy, gimple_bind_block (bind_stmt));
    2056                 :             :           }
    2057                 :         349 :           break;
    2058                 :             : 
    2059                 :       17498 :         case GIMPLE_CATCH:
    2060                 :       17498 :           {
    2061                 :       17498 :             gcatch *catch_stmt = as_a <gcatch *> (stmt);
    2062                 :       17498 :             gcatch *catch_copy = as_a <gcatch *> (copy);
    2063                 :       17498 :             new_seq = gimple_seq_copy (gimple_catch_handler (catch_stmt));
    2064                 :       17498 :             gimple_catch_set_handler (catch_copy, new_seq);
    2065                 :       17498 :             t = unshare_expr (gimple_catch_types (catch_stmt));
    2066                 :       17498 :             gimple_catch_set_types (catch_copy, t);
    2067                 :             :           }
    2068                 :       17498 :           break;
    2069                 :             : 
    2070                 :           0 :         case GIMPLE_EH_FILTER:
    2071                 :           0 :           {
    2072                 :           0 :             geh_filter *eh_filter_stmt = as_a <geh_filter *> (stmt);
    2073                 :           0 :             geh_filter *eh_filter_copy = as_a <geh_filter *> (copy);
    2074                 :           0 :             new_seq
    2075                 :           0 :               = gimple_seq_copy (gimple_eh_filter_failure (eh_filter_stmt));
    2076                 :           0 :             gimple_eh_filter_set_failure (eh_filter_copy, new_seq);
    2077                 :           0 :             t = unshare_expr (gimple_eh_filter_types (eh_filter_stmt));
    2078                 :           0 :             gimple_eh_filter_set_types (eh_filter_copy, t);
    2079                 :             :           }
    2080                 :           0 :           break;
    2081                 :             : 
    2082                 :         273 :         case GIMPLE_EH_ELSE:
    2083                 :         273 :           {
    2084                 :         273 :             geh_else *eh_else_stmt = as_a <geh_else *> (stmt);
    2085                 :         273 :             geh_else *eh_else_copy = as_a <geh_else *> (copy);
    2086                 :         273 :             new_seq = gimple_seq_copy (gimple_eh_else_n_body (eh_else_stmt));
    2087                 :         273 :             gimple_eh_else_set_n_body (eh_else_copy, new_seq);
    2088                 :         273 :             new_seq = gimple_seq_copy (gimple_eh_else_e_body (eh_else_stmt));
    2089                 :         273 :             gimple_eh_else_set_e_body (eh_else_copy, new_seq);
    2090                 :             :           }
    2091                 :         273 :           break;
    2092                 :             : 
    2093                 :       23901 :         case GIMPLE_TRY:
    2094                 :       23901 :           {
    2095                 :       23901 :             gtry *try_stmt = as_a <gtry *> (stmt);
    2096                 :       23901 :             gtry *try_copy = as_a <gtry *> (copy);
    2097                 :       23901 :             new_seq = gimple_seq_copy (gimple_try_eval (try_stmt));
    2098                 :       23901 :             gimple_try_set_eval (try_copy, new_seq);
    2099                 :       23901 :             new_seq = gimple_seq_copy (gimple_try_cleanup (try_stmt));
    2100                 :       23901 :             gimple_try_set_cleanup (try_copy, new_seq);
    2101                 :             :           }
    2102                 :       23901 :           break;
    2103                 :             : 
    2104                 :         256 :         case GIMPLE_OMP_FOR:
    2105                 :         256 :           new_seq = gimple_seq_copy (gimple_omp_for_pre_body (stmt));
    2106                 :         256 :           gimple_omp_for_set_pre_body (copy, new_seq);
    2107                 :         256 :           t = unshare_expr (gimple_omp_for_clauses (stmt));
    2108                 :         256 :           gimple_omp_for_set_clauses (copy, t);
    2109                 :         256 :           {
    2110                 :         256 :             gomp_for *omp_for_copy = as_a <gomp_for *> (copy);
    2111                 :         256 :             omp_for_copy->iter = ggc_vec_alloc<gimple_omp_for_iter>
    2112                 :         256 :               ( gimple_omp_for_collapse (stmt));
    2113                 :             :           }
    2114                 :         524 :           for (i = 0; i < gimple_omp_for_collapse (stmt); i++)
    2115                 :             :             {
    2116                 :         268 :               gimple_omp_for_set_cond (copy, i,
    2117                 :             :                                        gimple_omp_for_cond (stmt, i));
    2118                 :         268 :               gimple_omp_for_set_index (copy, i,
    2119                 :             :                                         gimple_omp_for_index (stmt, i));
    2120                 :         268 :               t = unshare_expr (gimple_omp_for_initial (stmt, i));
    2121                 :         268 :               gimple_omp_for_set_initial (copy, i, t);
    2122                 :         268 :               t = unshare_expr (gimple_omp_for_final (stmt, i));
    2123                 :         268 :               gimple_omp_for_set_final (copy, i, t);
    2124                 :         268 :               t = unshare_expr (gimple_omp_for_incr (stmt, i));
    2125                 :         268 :               gimple_omp_for_set_incr (copy, i, t);
    2126                 :             :             }
    2127                 :         256 :           goto copy_omp_body;
    2128                 :             : 
    2129                 :           0 :         case GIMPLE_OMP_PARALLEL:
    2130                 :           0 :           {
    2131                 :           0 :             gomp_parallel *omp_par_stmt = as_a <gomp_parallel *> (stmt);
    2132                 :           0 :             gomp_parallel *omp_par_copy = as_a <gomp_parallel *> (copy);
    2133                 :           0 :             t = unshare_expr (gimple_omp_parallel_clauses (omp_par_stmt));
    2134                 :           0 :             gimple_omp_parallel_set_clauses (omp_par_copy, t);
    2135                 :           0 :             t = unshare_expr (gimple_omp_parallel_child_fn (omp_par_stmt));
    2136                 :           0 :             gimple_omp_parallel_set_child_fn (omp_par_copy, t);
    2137                 :           0 :             t = unshare_expr (gimple_omp_parallel_data_arg (omp_par_stmt));
    2138                 :           0 :             gimple_omp_parallel_set_data_arg (omp_par_copy, t);
    2139                 :             :           }
    2140                 :           0 :           goto copy_omp_body;
    2141                 :             : 
    2142                 :           0 :         case GIMPLE_OMP_TASK:
    2143                 :           0 :           t = unshare_expr (gimple_omp_task_clauses (stmt));
    2144                 :           0 :           gimple_omp_task_set_clauses (copy, t);
    2145                 :           0 :           t = unshare_expr (gimple_omp_task_child_fn (stmt));
    2146                 :           0 :           gimple_omp_task_set_child_fn (copy, t);
    2147                 :           0 :           t = unshare_expr (gimple_omp_task_data_arg (stmt));
    2148                 :           0 :           gimple_omp_task_set_data_arg (copy, t);
    2149                 :           0 :           t = unshare_expr (gimple_omp_task_copy_fn (stmt));
    2150                 :           0 :           gimple_omp_task_set_copy_fn (copy, t);
    2151                 :           0 :           t = unshare_expr (gimple_omp_task_arg_size (stmt));
    2152                 :           0 :           gimple_omp_task_set_arg_size (copy, t);
    2153                 :           0 :           t = unshare_expr (gimple_omp_task_arg_align (stmt));
    2154                 :           0 :           gimple_omp_task_set_arg_align (copy, t);
    2155                 :           0 :           goto copy_omp_body;
    2156                 :             : 
    2157                 :           0 :         case GIMPLE_OMP_CRITICAL:
    2158                 :           0 :           t = unshare_expr (gimple_omp_critical_name
    2159                 :           0 :                                 (as_a <gomp_critical *> (stmt)));
    2160                 :           0 :           gimple_omp_critical_set_name (as_a <gomp_critical *> (copy), t);
    2161                 :           0 :           t = unshare_expr (gimple_omp_critical_clauses
    2162                 :           0 :                                 (as_a <gomp_critical *> (stmt)));
    2163                 :           0 :           gimple_omp_critical_set_clauses (as_a <gomp_critical *> (copy), t);
    2164                 :           0 :           goto copy_omp_body;
    2165                 :             : 
    2166                 :           0 :         case GIMPLE_OMP_ORDERED:
    2167                 :           0 :           t = unshare_expr (gimple_omp_ordered_clauses
    2168                 :           0 :                                 (as_a <gomp_ordered *> (stmt)));
    2169                 :           0 :           gimple_omp_ordered_set_clauses (as_a <gomp_ordered *> (copy), t);
    2170                 :           0 :           goto copy_omp_body;
    2171                 :             : 
    2172                 :           0 :         case GIMPLE_OMP_SCAN:
    2173                 :           0 :           t = gimple_omp_scan_clauses (as_a <gomp_scan *> (stmt));
    2174                 :           0 :           t = unshare_expr (t);
    2175                 :           0 :           gimple_omp_scan_set_clauses (as_a <gomp_scan *> (copy), t);
    2176                 :           0 :           goto copy_omp_body;
    2177                 :             : 
    2178                 :           0 :         case GIMPLE_OMP_TASKGROUP:
    2179                 :           0 :           t = unshare_expr (gimple_omp_taskgroup_clauses (stmt));
    2180                 :           0 :           gimple_omp_taskgroup_set_clauses (copy, t);
    2181                 :           0 :           goto copy_omp_body;
    2182                 :             : 
    2183                 :           0 :         case GIMPLE_OMP_SECTIONS:
    2184                 :           0 :           t = unshare_expr (gimple_omp_sections_clauses (stmt));
    2185                 :           0 :           gimple_omp_sections_set_clauses (copy, t);
    2186                 :           0 :           t = unshare_expr (gimple_omp_sections_control (stmt));
    2187                 :           0 :           gimple_omp_sections_set_control (copy, t);
    2188                 :           0 :           goto copy_omp_body;
    2189                 :             : 
    2190                 :           0 :         case GIMPLE_OMP_SINGLE:
    2191                 :           0 :           {
    2192                 :           0 :             gomp_single *omp_single_copy = as_a <gomp_single *> (copy);
    2193                 :           0 :             t = unshare_expr (gimple_omp_single_clauses (stmt));
    2194                 :           0 :             gimple_omp_single_set_clauses (omp_single_copy, t);
    2195                 :             :           }
    2196                 :           0 :           goto copy_omp_body;
    2197                 :             : 
    2198                 :           0 :         case GIMPLE_OMP_SCOPE:
    2199                 :           0 :           t = unshare_expr (gimple_omp_scope_clauses (stmt));
    2200                 :           0 :           gimple_omp_scope_set_clauses (copy, t);
    2201                 :           0 :           goto copy_omp_body;
    2202                 :             : 
    2203                 :           0 :         case GIMPLE_OMP_DISPATCH:
    2204                 :           0 :           t = unshare_expr (gimple_omp_dispatch_clauses (stmt));
    2205                 :           0 :           gimple_omp_dispatch_set_clauses (copy, t);
    2206                 :           0 :           goto copy_omp_body;
    2207                 :             : 
    2208                 :           0 :         case GIMPLE_OMP_TARGET:
    2209                 :           0 :           {
    2210                 :           0 :             gomp_target *omp_target_stmt = as_a <gomp_target *> (stmt);
    2211                 :           0 :             gomp_target *omp_target_copy = as_a <gomp_target *> (copy);
    2212                 :           0 :             t = unshare_expr (gimple_omp_target_clauses (omp_target_stmt));
    2213                 :           0 :             gimple_omp_target_set_clauses (omp_target_copy, t);
    2214                 :           0 :             t = unshare_expr (gimple_omp_target_data_arg (omp_target_stmt));
    2215                 :           0 :             gimple_omp_target_set_data_arg (omp_target_copy, t);
    2216                 :             :           }
    2217                 :           0 :           goto copy_omp_body;
    2218                 :             : 
    2219                 :           0 :         case GIMPLE_OMP_TEAMS:
    2220                 :           0 :           {
    2221                 :           0 :             gomp_teams *omp_teams_copy = as_a <gomp_teams *> (copy);
    2222                 :           0 :             t = unshare_expr (gimple_omp_teams_clauses (stmt));
    2223                 :           0 :             gimple_omp_teams_set_clauses (omp_teams_copy, t);
    2224                 :             :           }
    2225                 :             :           /* FALLTHRU  */
    2226                 :             : 
    2227                 :         256 :         case GIMPLE_OMP_SECTION:
    2228                 :         256 :         case GIMPLE_OMP_MASTER:
    2229                 :         256 :         case GIMPLE_OMP_STRUCTURED_BLOCK:
    2230                 :         256 :         copy_omp_body:
    2231                 :         256 :           new_seq = gimple_seq_copy (gimple_omp_body (stmt));
    2232                 :         256 :           gimple_omp_set_body (copy, new_seq);
    2233                 :         256 :           break;
    2234                 :             : 
    2235                 :           0 :         case GIMPLE_OMP_MASKED:
    2236                 :           0 :           t = unshare_expr (gimple_omp_masked_clauses (stmt));
    2237                 :           0 :           gimple_omp_masked_set_clauses (copy, t);
    2238                 :           0 :           goto copy_omp_body;
    2239                 :             : 
    2240                 :           0 :         case GIMPLE_ASSUME:
    2241                 :           0 :           new_seq = gimple_seq_copy (gimple_assume_body (stmt));
    2242                 :           0 :           *gimple_assume_body_ptr (copy) = new_seq;
    2243                 :           0 :           gimple_assume_set_guard (copy,
    2244                 :             :                                    unshare_expr (gimple_assume_guard (stmt)));
    2245                 :           0 :           break;
    2246                 :             : 
    2247                 :           6 :         case GIMPLE_TRANSACTION:
    2248                 :           6 :           new_seq = gimple_seq_copy (gimple_transaction_body (
    2249                 :           6 :                                        as_a <gtransaction *> (stmt)));
    2250                 :           6 :           gimple_transaction_set_body (as_a <gtransaction *> (copy),
    2251                 :             :                                        new_seq);
    2252                 :           6 :           break;
    2253                 :             : 
    2254                 :           0 :         case GIMPLE_WITH_CLEANUP_EXPR:
    2255                 :           0 :           new_seq = gimple_seq_copy (gimple_wce_cleanup (stmt));
    2256                 :           0 :           gimple_wce_set_cleanup (copy, new_seq);
    2257                 :           0 :           break;
    2258                 :             : 
    2259                 :           0 :         default:
    2260                 :           0 :           gcc_unreachable ();
    2261                 :             :         }
    2262                 :             :     }
    2263                 :             : 
    2264                 :             :   /* Make copy of operands.  */
    2265                 :   169890945 :   for (i = 0; i < num_ops; i++)
    2266                 :   114963521 :     gimple_set_op (copy, i, unshare_expr (gimple_op (stmt, i)));
    2267                 :             : 
    2268                 :    54927424 :   if (gimple_has_mem_ops (stmt))
    2269                 :             :     {
    2270                 :    27400075 :       gimple_set_vdef (copy, gimple_vdef (stmt));
    2271                 :    27400075 :       gimple_set_vuse (copy, gimple_vuse (stmt));
    2272                 :             :     }
    2273                 :             : 
    2274                 :             :   /* Clear out SSA operand vectors on COPY.  */
    2275                 :    54927424 :   if (gimple_has_ops (stmt))
    2276                 :             :     {
    2277                 :    54499544 :       gimple_set_use_ops (copy, NULL);
    2278                 :             : 
    2279                 :             :       /* SSA operands need to be updated.  */
    2280                 :    54499544 :       gimple_set_modified (copy, true);
    2281                 :             :     }
    2282                 :             : 
    2283                 :    54927424 :   if (gimple_debug_nonbind_marker_p (stmt))
    2284                 :    11708501 :     cfun->debug_marker_count++;
    2285                 :             : 
    2286                 :    54927424 :   return copy;
    2287                 :             : }
    2288                 :             : 
    2289                 :             : /* Move OLD_STMT's vuse and vdef operands to NEW_STMT, on the assumption
    2290                 :             :    that OLD_STMT is about to be removed.  */
    2291                 :             : 
    2292                 :             : void
    2293                 :      478495 : gimple_move_vops (gimple *new_stmt, gimple *old_stmt)
    2294                 :             : {
    2295                 :      478495 :   tree vdef = gimple_vdef (old_stmt);
    2296                 :      956990 :   gimple_set_vuse (new_stmt, gimple_vuse (old_stmt));
    2297                 :      478495 :   gimple_set_vdef (new_stmt, vdef);
    2298                 :      478495 :   if (vdef && TREE_CODE (vdef) == SSA_NAME)
    2299                 :      163020 :     SSA_NAME_DEF_STMT (vdef) = new_stmt;
    2300                 :      478495 : }
    2301                 :             : 
    2302                 :             : /* Return true if statement S has side-effects.  We consider a
    2303                 :             :    statement to have side effects if:
    2304                 :             : 
    2305                 :             :    - It is a GIMPLE_CALL not marked with ECF_PURE or ECF_CONST.
    2306                 :             :    - Any of its operands are marked TREE_THIS_VOLATILE or TREE_SIDE_EFFECTS.  */
    2307                 :             : 
    2308                 :             : bool
    2309                 :  1194493312 : gimple_has_side_effects (const gimple *s)
    2310                 :             : {
    2311                 :  1194493312 :   if (is_gimple_debug (s))
    2312                 :             :     return false;
    2313                 :             : 
    2314                 :             :   /* We don't have to scan the arguments to check for
    2315                 :             :      volatile arguments, though, at present, we still
    2316                 :             :      do a scan to check for TREE_SIDE_EFFECTS.  */
    2317                 :  2043932295 :   if (gimple_has_volatile_ops (s))
    2318                 :             :     return true;
    2319                 :             : 
    2320                 :  1023473873 :   if (gimple_code (s) == GIMPLE_ASM
    2321                 :  1023473873 :       && gimple_asm_volatile_p (as_a <const gasm *> (s)))
    2322                 :             :     return true;
    2323                 :             : 
    2324                 :  1022914417 :   if (is_gimple_call (s))
    2325                 :             :     {
    2326                 :    90861455 :       int flags = gimple_call_flags (s);
    2327                 :             : 
    2328                 :             :       /* An infinite loop is considered a side effect.  */
    2329                 :    90861455 :       if (!(flags & (ECF_CONST | ECF_PURE))
    2330                 :    17579300 :           || (flags & ECF_LOOPING_CONST_OR_PURE))
    2331                 :             :         return true;
    2332                 :             : 
    2333                 :             :       return false;
    2334                 :             :     }
    2335                 :             : 
    2336                 :             :   return false;
    2337                 :             : }
    2338                 :             : 
    2339                 :             : /* Helper for gimple_could_trap_p and gimple_assign_rhs_could_trap_p.
    2340                 :             :    Return true if S can trap.  When INCLUDE_MEM is true, check whether
    2341                 :             :    the memory operations could trap.  When INCLUDE_STORES is true and
    2342                 :             :    S is a GIMPLE_ASSIGN, the LHS of the assignment is also checked.  */
    2343                 :             : 
    2344                 :             : bool
    2345                 :    53386855 : gimple_could_trap_p_1 (const gimple *s, bool include_mem, bool include_stores)
    2346                 :             : {
    2347                 :    53386855 :   tree t, div = NULL_TREE;
    2348                 :    53386855 :   enum tree_code op;
    2349                 :             : 
    2350                 :    53386855 :   if (include_mem)
    2351                 :             :     {
    2352                 :    30261941 :       unsigned i, start = (is_gimple_assign (s) && !include_stores) ? 1 : 0;
    2353                 :             : 
    2354                 :   104604896 :       for (i = start; i < gimple_num_ops (s); i++)
    2355                 :    78471493 :         if (tree_could_trap_p (gimple_op (s, i)))
    2356                 :             :           return true;
    2357                 :             :     }
    2358                 :             : 
    2359                 :    49258317 :   switch (gimple_code (s))
    2360                 :             :     {
    2361                 :        8626 :     case GIMPLE_ASM:
    2362                 :        8626 :       return gimple_asm_volatile_p (as_a <const gasm *> (s));
    2363                 :             : 
    2364                 :     1285581 :     case GIMPLE_CALL:
    2365                 :     1285581 :       if (gimple_call_internal_p (s))
    2366                 :             :         return false;
    2367                 :     1147171 :       t = gimple_call_fndecl (s);
    2368                 :             :       /* Assume that indirect and calls to weak functions may trap.  */
    2369                 :     1147171 :       if (!t || !DECL_P (t) || DECL_WEAK (t))
    2370                 :             :         return true;
    2371                 :             :       return false;
    2372                 :             : 
    2373                 :    37761359 :     case GIMPLE_ASSIGN:
    2374                 :    37761359 :       op = gimple_assign_rhs_code (s);
    2375                 :             : 
    2376                 :             :       /* For COND_EXPR only the condition may trap.  */
    2377                 :    37761359 :       if (op == COND_EXPR)
    2378                 :       19933 :         return tree_could_trap_p (gimple_assign_rhs1 (s));
    2379                 :             : 
    2380                 :             :       /* For comparisons we need to check rhs operand types instead of lhs type
    2381                 :             :          (which is BOOLEAN_TYPE).  */
    2382                 :    37741426 :       if (TREE_CODE_CLASS (op) == tcc_comparison)
    2383                 :     1351351 :         t = TREE_TYPE (gimple_assign_rhs1 (s));
    2384                 :             :       else
    2385                 :    36390075 :         t = TREE_TYPE (gimple_assign_lhs (s));
    2386                 :             : 
    2387                 :    37741426 :       if (get_gimple_rhs_class (op) == GIMPLE_BINARY_RHS)
    2388                 :    21332757 :         div = gimple_assign_rhs2 (s);
    2389                 :             : 
    2390                 :    40014206 :       return (operation_could_trap_p (op, FLOAT_TYPE_P (t),
    2391                 :    37741426 :                                       (INTEGRAL_TYPE_P (t)
    2392                 :    37741426 :                                        && TYPE_OVERFLOW_TRAPS (t)),
    2393                 :    37741426 :                                       div));
    2394                 :             : 
    2395                 :     6500438 :     case GIMPLE_COND:
    2396                 :     6500438 :       t = TREE_TYPE (gimple_cond_lhs (s));
    2397                 :     6500438 :       return operation_could_trap_p (gimple_cond_code (s),
    2398                 :    13000876 :                                      FLOAT_TYPE_P (t), false, NULL_TREE);
    2399                 :             : 
    2400                 :             :     default:
    2401                 :             :       break;
    2402                 :             :     }
    2403                 :             : 
    2404                 :             :   return false;
    2405                 :             : }
    2406                 :             : 
    2407                 :             : /* Return true if statement S can trap.  */
    2408                 :             : 
    2409                 :             : bool
    2410                 :    27550342 : gimple_could_trap_p (const gimple *s)
    2411                 :             : {
    2412                 :    27550342 :   return gimple_could_trap_p_1 (s, true, true);
    2413                 :             : }
    2414                 :             : 
    2415                 :             : /* Return true if RHS of a GIMPLE_ASSIGN S can trap.  */
    2416                 :             : 
    2417                 :             : bool
    2418                 :     2711599 : gimple_assign_rhs_could_trap_p (gimple *s)
    2419                 :             : {
    2420                 :     2711599 :   gcc_assert (is_gimple_assign (s));
    2421                 :     2711599 :   return gimple_could_trap_p_1 (s, true, false);
    2422                 :             : }
    2423                 :             : 
    2424                 :             : 
    2425                 :             : /* Print debugging information for gimple stmts generated.  */
    2426                 :             : 
    2427                 :             : void
    2428                 :           0 : dump_gimple_statistics (void)
    2429                 :             : {
    2430                 :           0 :   int i;
    2431                 :           0 :   uint64_t total_tuples = 0, total_bytes = 0;
    2432                 :             : 
    2433                 :           0 :   if (! GATHER_STATISTICS)
    2434                 :             :     {
    2435                 :           0 :       fprintf (stderr, "No GIMPLE statistics\n");
    2436                 :           0 :       return;
    2437                 :             :     }
    2438                 :             : 
    2439                 :             :   fprintf (stderr, "\nGIMPLE statements\n");
    2440                 :             :   fprintf (stderr, "Kind                   Stmts      Bytes\n");
    2441                 :             :   fprintf (stderr, "---------------------------------------\n");
    2442                 :             :   for (i = 0; i < (int) gimple_alloc_kind_all; ++i)
    2443                 :             :     {
    2444                 :             :       fprintf (stderr, "%-20s %7" PRIu64 "%c %10" PRIu64 "%c\n",
    2445                 :             :                gimple_alloc_kind_names[i],
    2446                 :             :                SIZE_AMOUNT (gimple_alloc_counts[i]),
    2447                 :             :                SIZE_AMOUNT (gimple_alloc_sizes[i]));
    2448                 :             :       total_tuples += gimple_alloc_counts[i];
    2449                 :             :       total_bytes += gimple_alloc_sizes[i];
    2450                 :             :     }
    2451                 :             :   fprintf (stderr, "---------------------------------------\n");
    2452                 :             :   fprintf (stderr, "%-20s %7" PRIu64 "%c %10" PRIu64 "%c\n", "Total",
    2453                 :             :            SIZE_AMOUNT (total_tuples), SIZE_AMOUNT (total_bytes));
    2454                 :             :   fprintf (stderr, "---------------------------------------\n");
    2455                 :             : }
    2456                 :             : 
    2457                 :             : 
    2458                 :             : /* Return the number of operands needed on the RHS of a GIMPLE
    2459                 :             :    assignment for an expression with tree code CODE.  */
    2460                 :             : 
    2461                 :             : unsigned
    2462                 :    93418602 : get_gimple_rhs_num_ops (enum tree_code code)
    2463                 :             : {
    2464                 :    93418602 :   switch (get_gimple_rhs_class (code))
    2465                 :             :     {
    2466                 :             :     case GIMPLE_UNARY_RHS:
    2467                 :             :     case GIMPLE_SINGLE_RHS:
    2468                 :             :       return 1;
    2469                 :             :     case GIMPLE_BINARY_RHS:
    2470                 :             :       return 2;
    2471                 :             :     case GIMPLE_TERNARY_RHS:
    2472                 :             :       return 3;
    2473                 :           0 :     default:
    2474                 :           0 :       gcc_unreachable ();
    2475                 :             :     }
    2476                 :             : }
    2477                 :             : 
    2478                 :             : #define DEFTREECODE(SYM, STRING, TYPE, NARGS)                               \
    2479                 :             :   (unsigned char)                                                           \
    2480                 :             :   ((TYPE) == tcc_unary ? GIMPLE_UNARY_RHS                                   \
    2481                 :             :    : ((TYPE) == tcc_binary                                                  \
    2482                 :             :       || (TYPE) == tcc_comparison) ? GIMPLE_BINARY_RHS                      \
    2483                 :             :    : ((TYPE) == tcc_constant                                                \
    2484                 :             :       || (TYPE) == tcc_declaration                                          \
    2485                 :             :       || (TYPE) == tcc_reference) ? GIMPLE_SINGLE_RHS                       \
    2486                 :             :    : ((SYM) == TRUTH_AND_EXPR                                               \
    2487                 :             :       || (SYM) == TRUTH_OR_EXPR                                             \
    2488                 :             :       || (SYM) == TRUTH_XOR_EXPR) ? GIMPLE_BINARY_RHS                       \
    2489                 :             :    : (SYM) == TRUTH_NOT_EXPR ? GIMPLE_UNARY_RHS                             \
    2490                 :             :    : ((SYM) == COND_EXPR                                                    \
    2491                 :             :       || (SYM) == WIDEN_MULT_PLUS_EXPR                                      \
    2492                 :             :       || (SYM) == WIDEN_MULT_MINUS_EXPR                                     \
    2493                 :             :       || (SYM) == DOT_PROD_EXPR                                             \
    2494                 :             :       || (SYM) == SAD_EXPR                                                  \
    2495                 :             :       || (SYM) == REALIGN_LOAD_EXPR                                         \
    2496                 :             :       || (SYM) == VEC_COND_EXPR                                             \
    2497                 :             :       || (SYM) == VEC_PERM_EXPR                                             \
    2498                 :             :       || (SYM) == BIT_INSERT_EXPR) ? GIMPLE_TERNARY_RHS                     \
    2499                 :             :    : ((SYM) == CONSTRUCTOR                                                  \
    2500                 :             :       || (SYM) == OBJ_TYPE_REF                                              \
    2501                 :             :       || (SYM) == ADDR_EXPR                                                 \
    2502                 :             :       || (SYM) == WITH_SIZE_EXPR                                            \
    2503                 :             :       || (SYM) == SSA_NAME) ? GIMPLE_SINGLE_RHS                             \
    2504                 :             :    : GIMPLE_INVALID_RHS),
    2505                 :             : #define END_OF_BASE_TREE_CODES (unsigned char) GIMPLE_INVALID_RHS,
    2506                 :             : 
    2507                 :             : const unsigned char gimple_rhs_class_table[] = {
    2508                 :             : #include "all-tree.def"
    2509                 :             : };
    2510                 :             : 
    2511                 :             : #undef DEFTREECODE
    2512                 :             : #undef END_OF_BASE_TREE_CODES
    2513                 :             : 
    2514                 :             : /* Build a GIMPLE_CALL identical to STMT but skipping the arguments in
    2515                 :             :    the positions marked by the set ARGS_TO_SKIP.  */
    2516                 :             : 
    2517                 :             : gcall *
    2518                 :           0 : gimple_call_copy_skip_args (gcall *stmt, bitmap args_to_skip)
    2519                 :             : {
    2520                 :           0 :   int i;
    2521                 :           0 :   int nargs = gimple_call_num_args (stmt);
    2522                 :           0 :   auto_vec<tree> vargs (nargs);
    2523                 :           0 :   gcall *new_stmt;
    2524                 :             : 
    2525                 :           0 :   for (i = 0; i < nargs; i++)
    2526                 :           0 :     if (!bitmap_bit_p (args_to_skip, i))
    2527                 :           0 :       vargs.quick_push (gimple_call_arg (stmt, i));
    2528                 :             : 
    2529                 :           0 :   if (gimple_call_internal_p (stmt))
    2530                 :           0 :     new_stmt = gimple_build_call_internal_vec (gimple_call_internal_fn (stmt),
    2531                 :             :                                                vargs);
    2532                 :             :   else
    2533                 :           0 :     new_stmt = gimple_build_call_vec (gimple_call_fn (stmt), vargs);
    2534                 :             : 
    2535                 :           0 :   if (gimple_call_lhs (stmt))
    2536                 :           0 :     gimple_call_set_lhs (new_stmt, gimple_call_lhs (stmt));
    2537                 :             : 
    2538                 :           0 :   gimple_set_vuse (new_stmt, gimple_vuse (stmt));
    2539                 :           0 :   gimple_set_vdef (new_stmt, gimple_vdef (stmt));
    2540                 :             : 
    2541                 :           0 :   if (gimple_has_location (stmt))
    2542                 :           0 :     gimple_set_location (new_stmt, gimple_location (stmt));
    2543                 :           0 :   gimple_call_copy_flags (new_stmt, stmt);
    2544                 :           0 :   gimple_call_set_chain (new_stmt, gimple_call_chain (stmt));
    2545                 :             : 
    2546                 :           0 :   gimple_set_modified (new_stmt, true);
    2547                 :             : 
    2548                 :           0 :   return new_stmt;
    2549                 :           0 : }
    2550                 :             : 
    2551                 :             : 
    2552                 :             : 
    2553                 :             : /* Return true if the field decls F1 and F2 are at the same offset.
    2554                 :             : 
    2555                 :             :    This is intended to be used on GIMPLE types only.  */
    2556                 :             : 
    2557                 :             : bool
    2558                 :    47841263 : gimple_compare_field_offset (tree f1, tree f2)
    2559                 :             : {
    2560                 :    47841263 :   if (DECL_OFFSET_ALIGN (f1) == DECL_OFFSET_ALIGN (f2))
    2561                 :             :     {
    2562                 :    47841200 :       tree offset1 = DECL_FIELD_OFFSET (f1);
    2563                 :    47841200 :       tree offset2 = DECL_FIELD_OFFSET (f2);
    2564                 :    47841200 :       return ((offset1 == offset2
    2565                 :             :                /* Once gimplification is done, self-referential offsets are
    2566                 :             :                   instantiated as operand #2 of the COMPONENT_REF built for
    2567                 :             :                   each access and reset.  Therefore, they are not relevant
    2568                 :             :                   anymore and fields are interchangeable provided that they
    2569                 :             :                   represent the same access.  */
    2570                 :           0 :                || (TREE_CODE (offset1) == PLACEHOLDER_EXPR
    2571                 :           0 :                    && TREE_CODE (offset2) == PLACEHOLDER_EXPR
    2572                 :           0 :                    && (DECL_SIZE (f1) == DECL_SIZE (f2)
    2573                 :           0 :                        || (TREE_CODE (DECL_SIZE (f1)) == PLACEHOLDER_EXPR
    2574                 :           0 :                            && TREE_CODE (DECL_SIZE (f2)) == PLACEHOLDER_EXPR)
    2575                 :           0 :                        || operand_equal_p (DECL_SIZE (f1), DECL_SIZE (f2), 0))
    2576                 :           0 :                    && DECL_ALIGN (f1) == DECL_ALIGN (f2))
    2577                 :           0 :                || operand_equal_p (offset1, offset2, 0))
    2578                 :    95682400 :               && tree_int_cst_equal (DECL_FIELD_BIT_OFFSET (f1),
    2579                 :    47841200 :                                      DECL_FIELD_BIT_OFFSET (f2)));
    2580                 :             :     }
    2581                 :             : 
    2582                 :             :   /* Fortran and C do not always agree on what DECL_OFFSET_ALIGN
    2583                 :             :      should be, so handle differing ones specially by decomposing
    2584                 :             :      the offset into a byte and bit offset manually.  */
    2585                 :          63 :   if (tree_fits_shwi_p (DECL_FIELD_OFFSET (f1))
    2586                 :          63 :       && tree_fits_shwi_p (DECL_FIELD_OFFSET (f2)))
    2587                 :             :     {
    2588                 :          63 :       unsigned HOST_WIDE_INT byte_offset1, byte_offset2;
    2589                 :          63 :       unsigned HOST_WIDE_INT bit_offset1, bit_offset2;
    2590                 :          63 :       bit_offset1 = TREE_INT_CST_LOW (DECL_FIELD_BIT_OFFSET (f1));
    2591                 :          63 :       byte_offset1 = (TREE_INT_CST_LOW (DECL_FIELD_OFFSET (f1))
    2592                 :          63 :                       + bit_offset1 / BITS_PER_UNIT);
    2593                 :          63 :       bit_offset2 = TREE_INT_CST_LOW (DECL_FIELD_BIT_OFFSET (f2));
    2594                 :          63 :       byte_offset2 = (TREE_INT_CST_LOW (DECL_FIELD_OFFSET (f2))
    2595                 :          63 :                       + bit_offset2 / BITS_PER_UNIT);
    2596                 :          63 :       if (byte_offset1 != byte_offset2)
    2597                 :             :         return false;
    2598                 :          63 :       return bit_offset1 % BITS_PER_UNIT == bit_offset2 % BITS_PER_UNIT;
    2599                 :             :     }
    2600                 :             : 
    2601                 :             :   return false;
    2602                 :             : }
    2603                 :             : 
    2604                 :             : 
    2605                 :             : /* Return a type the same as TYPE except unsigned or
    2606                 :             :    signed according to UNSIGNEDP.  */
    2607                 :             : 
    2608                 :             : static tree
    2609                 :      485460 : gimple_signed_or_unsigned_type (bool unsignedp, tree type)
    2610                 :             : {
    2611                 :      485460 :   tree type1;
    2612                 :      485460 :   int i;
    2613                 :             : 
    2614                 :      485460 :   type1 = TYPE_MAIN_VARIANT (type);
    2615                 :      485460 :   if (type1 == signed_char_type_node
    2616                 :      485460 :       || type1 == char_type_node
    2617                 :      485460 :       || type1 == unsigned_char_type_node)
    2618                 :           4 :     return unsignedp ? unsigned_char_type_node : signed_char_type_node;
    2619                 :      485456 :   if (type1 == integer_type_node || type1 == unsigned_type_node)
    2620                 :      310056 :     return unsignedp ? unsigned_type_node : integer_type_node;
    2621                 :      175400 :   if (type1 == short_integer_type_node || type1 == short_unsigned_type_node)
    2622                 :      154455 :     return unsignedp ? short_unsigned_type_node : short_integer_type_node;
    2623                 :       20945 :   if (type1 == long_integer_type_node || type1 == long_unsigned_type_node)
    2624                 :          39 :     return unsignedp ? long_unsigned_type_node : long_integer_type_node;
    2625                 :       20906 :   if (type1 == long_long_integer_type_node
    2626                 :       20818 :       || type1 == long_long_unsigned_type_node)
    2627                 :          88 :     return unsignedp
    2628                 :          88 :            ? long_long_unsigned_type_node
    2629                 :          88 :            : long_long_integer_type_node;
    2630                 :             : 
    2631                 :       34834 :   for (i = 0; i < NUM_INT_N_ENTS; i ++)
    2632                 :       20818 :     if (int_n_enabled_p[i]
    2633                 :       20818 :         && (type1 == int_n_trees[i].unsigned_type
    2634                 :       14358 :             || type1 == int_n_trees[i].signed_type))
    2635                 :        6802 :         return unsignedp
    2636                 :        6802 :           ? int_n_trees[i].unsigned_type
    2637                 :        6802 :           : int_n_trees[i].signed_type;
    2638                 :             : 
    2639                 :             : #if HOST_BITS_PER_WIDE_INT >= 64
    2640                 :       14016 :   if (type1 == intTI_type_node || type1 == unsigned_intTI_type_node)
    2641                 :           0 :     return unsignedp ? unsigned_intTI_type_node : intTI_type_node;
    2642                 :             : #endif
    2643                 :       14016 :   if (type1 == intDI_type_node || type1 == unsigned_intDI_type_node)
    2644                 :           0 :     return unsignedp ? unsigned_intDI_type_node : intDI_type_node;
    2645                 :       14016 :   if (type1 == intSI_type_node || type1 == unsigned_intSI_type_node)
    2646                 :           0 :     return unsignedp ? unsigned_intSI_type_node : intSI_type_node;
    2647                 :       14016 :   if (type1 == intHI_type_node || type1 == unsigned_intHI_type_node)
    2648                 :           0 :     return unsignedp ? unsigned_intHI_type_node : intHI_type_node;
    2649                 :       14016 :   if (type1 == intQI_type_node || type1 == unsigned_intQI_type_node)
    2650                 :           0 :     return unsignedp ? unsigned_intQI_type_node : intQI_type_node;
    2651                 :             : 
    2652                 :             : #define GIMPLE_FIXED_TYPES(NAME)            \
    2653                 :             :   if (type1 == short_ ## NAME ## _type_node \
    2654                 :             :       || type1 == unsigned_short_ ## NAME ## _type_node) \
    2655                 :             :     return unsignedp ? unsigned_short_ ## NAME ## _type_node \
    2656                 :             :                      : short_ ## NAME ## _type_node; \
    2657                 :             :   if (type1 == NAME ## _type_node \
    2658                 :             :       || type1 == unsigned_ ## NAME ## _type_node) \
    2659                 :             :     return unsignedp ? unsigned_ ## NAME ## _type_node \
    2660                 :             :                      : NAME ## _type_node; \
    2661                 :             :   if (type1 == long_ ## NAME ## _type_node \
    2662                 :             :       || type1 == unsigned_long_ ## NAME ## _type_node) \
    2663                 :             :     return unsignedp ? unsigned_long_ ## NAME ## _type_node \
    2664                 :             :                      : long_ ## NAME ## _type_node; \
    2665                 :             :   if (type1 == long_long_ ## NAME ## _type_node \
    2666                 :             :       || type1 == unsigned_long_long_ ## NAME ## _type_node) \
    2667                 :             :     return unsignedp ? unsigned_long_long_ ## NAME ## _type_node \
    2668                 :             :                      : long_long_ ## NAME ## _type_node;
    2669                 :             : 
    2670                 :             : #define GIMPLE_FIXED_MODE_TYPES(NAME) \
    2671                 :             :   if (type1 == NAME ## _type_node \
    2672                 :             :       || type1 == u ## NAME ## _type_node) \
    2673                 :             :     return unsignedp ? u ## NAME ## _type_node \
    2674                 :             :                      : NAME ## _type_node;
    2675                 :             : 
    2676                 :             : #define GIMPLE_FIXED_TYPES_SAT(NAME) \
    2677                 :             :   if (type1 == sat_ ## short_ ## NAME ## _type_node \
    2678                 :             :       || type1 == sat_ ## unsigned_short_ ## NAME ## _type_node) \
    2679                 :             :     return unsignedp ? sat_ ## unsigned_short_ ## NAME ## _type_node \
    2680                 :             :                      : sat_ ## short_ ## NAME ## _type_node; \
    2681                 :             :   if (type1 == sat_ ## NAME ## _type_node \
    2682                 :             :       || type1 == sat_ ## unsigned_ ## NAME ## _type_node) \
    2683                 :             :     return unsignedp ? sat_ ## unsigned_ ## NAME ## _type_node \
    2684                 :             :                      : sat_ ## NAME ## _type_node; \
    2685                 :             :   if (type1 == sat_ ## long_ ## NAME ## _type_node \
    2686                 :             :       || type1 == sat_ ## unsigned_long_ ## NAME ## _type_node) \
    2687                 :             :     return unsignedp ? sat_ ## unsigned_long_ ## NAME ## _type_node \
    2688                 :             :                      : sat_ ## long_ ## NAME ## _type_node; \
    2689                 :             :   if (type1 == sat_ ## long_long_ ## NAME ## _type_node \
    2690                 :             :       || type1 == sat_ ## unsigned_long_long_ ## NAME ## _type_node) \
    2691                 :             :     return unsignedp ? sat_ ## unsigned_long_long_ ## NAME ## _type_node \
    2692                 :             :                      : sat_ ## long_long_ ## NAME ## _type_node;
    2693                 :             : 
    2694                 :             : #define GIMPLE_FIXED_MODE_TYPES_SAT(NAME)       \
    2695                 :             :   if (type1 == sat_ ## NAME ## _type_node \
    2696                 :             :       || type1 == sat_ ## u ## NAME ## _type_node) \
    2697                 :             :     return unsignedp ? sat_ ## u ## NAME ## _type_node \
    2698                 :             :                      : sat_ ## NAME ## _type_node;
    2699                 :             : 
    2700                 :       14016 :   GIMPLE_FIXED_TYPES (fract);
    2701                 :       14016 :   GIMPLE_FIXED_TYPES_SAT (fract);
    2702                 :       14016 :   GIMPLE_FIXED_TYPES (accum);
    2703                 :       14016 :   GIMPLE_FIXED_TYPES_SAT (accum);
    2704                 :             : 
    2705                 :       14016 :   GIMPLE_FIXED_MODE_TYPES (qq);
    2706                 :       14016 :   GIMPLE_FIXED_MODE_TYPES (hq);
    2707                 :       14016 :   GIMPLE_FIXED_MODE_TYPES (sq);
    2708                 :       14016 :   GIMPLE_FIXED_MODE_TYPES (dq);
    2709                 :       14016 :   GIMPLE_FIXED_MODE_TYPES (tq);
    2710                 :       14016 :   GIMPLE_FIXED_MODE_TYPES_SAT (qq);
    2711                 :       14016 :   GIMPLE_FIXED_MODE_TYPES_SAT (hq);
    2712                 :       14016 :   GIMPLE_FIXED_MODE_TYPES_SAT (sq);
    2713                 :       14016 :   GIMPLE_FIXED_MODE_TYPES_SAT (dq);
    2714                 :       14016 :   GIMPLE_FIXED_MODE_TYPES_SAT (tq);
    2715                 :       14016 :   GIMPLE_FIXED_MODE_TYPES (ha);
    2716                 :       14016 :   GIMPLE_FIXED_MODE_TYPES (sa);
    2717                 :       14016 :   GIMPLE_FIXED_MODE_TYPES (da);
    2718                 :       14016 :   GIMPLE_FIXED_MODE_TYPES (ta);
    2719                 :       14016 :   GIMPLE_FIXED_MODE_TYPES_SAT (ha);
    2720                 :       14016 :   GIMPLE_FIXED_MODE_TYPES_SAT (sa);
    2721                 :       14016 :   GIMPLE_FIXED_MODE_TYPES_SAT (da);
    2722                 :       14016 :   GIMPLE_FIXED_MODE_TYPES_SAT (ta);
    2723                 :             : 
    2724                 :             :   /* For ENUMERAL_TYPEs in C++, must check the mode of the types, not
    2725                 :             :      the precision; they have precision set to match their range, but
    2726                 :             :      may use a wider mode to match an ABI.  If we change modes, we may
    2727                 :             :      wind up with bad conversions.  For INTEGER_TYPEs in C, must check
    2728                 :             :      the precision as well, so as to yield correct results for
    2729                 :             :      bit-field types.  C++ does not have these separate bit-field
    2730                 :             :      types, and producing a signed or unsigned variant of an
    2731                 :             :      ENUMERAL_TYPE may cause other problems as well.  */
    2732                 :       14016 :   if (!INTEGRAL_TYPE_P (type)
    2733                 :       14016 :       || TYPE_UNSIGNED (type) == unsignedp)
    2734                 :             :     return type;
    2735                 :             : 
    2736                 :             : #define TYPE_OK(node)                                                       \
    2737                 :             :   (TYPE_MODE (type) == TYPE_MODE (node)                                     \
    2738                 :             :    && TYPE_PRECISION (type) == TYPE_PRECISION (node))
    2739                 :       14016 :   if (TYPE_OK (signed_char_type_node))
    2740                 :         610 :     return unsignedp ? unsigned_char_type_node : signed_char_type_node;
    2741                 :       13406 :   if (TYPE_OK (integer_type_node))
    2742                 :        3489 :     return unsignedp ? unsigned_type_node : integer_type_node;
    2743                 :        9917 :   if (TYPE_OK (short_integer_type_node))
    2744                 :        4709 :     return unsignedp ? short_unsigned_type_node : short_integer_type_node;
    2745                 :        5208 :   if (TYPE_OK (long_integer_type_node))
    2746                 :           0 :     return unsignedp ? long_unsigned_type_node : long_integer_type_node;
    2747                 :        5208 :   if (TYPE_OK (long_long_integer_type_node))
    2748                 :           0 :     return (unsignedp
    2749                 :           0 :             ? long_long_unsigned_type_node
    2750                 :           0 :             : long_long_integer_type_node);
    2751                 :             : 
    2752                 :       10380 :   for (i = 0; i < NUM_INT_N_ENTS; i ++)
    2753                 :        5208 :     if (int_n_enabled_p[i]
    2754                 :        5208 :         && TYPE_MODE (type) == int_n_data[i].m
    2755                 :        5244 :         && TYPE_PRECISION (type) == int_n_data[i].bitsize)
    2756                 :          36 :         return unsignedp
    2757                 :          36 :           ? int_n_trees[i].unsigned_type
    2758                 :          36 :           : int_n_trees[i].signed_type;
    2759                 :             : 
    2760                 :             : #if HOST_BITS_PER_WIDE_INT >= 64
    2761                 :        5172 :   if (TYPE_OK (intTI_type_node))
    2762                 :           0 :     return unsignedp ? unsigned_intTI_type_node : intTI_type_node;
    2763                 :             : #endif
    2764                 :        5172 :   if (TYPE_OK (intDI_type_node))
    2765                 :           0 :     return unsignedp ? unsigned_intDI_type_node : intDI_type_node;
    2766                 :        5172 :   if (TYPE_OK (intSI_type_node))
    2767                 :           0 :     return unsignedp ? unsigned_intSI_type_node : intSI_type_node;
    2768                 :        5172 :   if (TYPE_OK (intHI_type_node))
    2769                 :           0 :     return unsignedp ? unsigned_intHI_type_node : intHI_type_node;
    2770                 :        5172 :   if (TYPE_OK (intQI_type_node))
    2771                 :           0 :     return unsignedp ? unsigned_intQI_type_node : intQI_type_node;
    2772                 :             : 
    2773                 :             : #undef GIMPLE_FIXED_TYPES
    2774                 :             : #undef GIMPLE_FIXED_MODE_TYPES
    2775                 :             : #undef GIMPLE_FIXED_TYPES_SAT
    2776                 :             : #undef GIMPLE_FIXED_MODE_TYPES_SAT
    2777                 :             : #undef TYPE_OK
    2778                 :             : 
    2779                 :        5172 :   return build_nonstandard_integer_type (TYPE_PRECISION (type), unsignedp);
    2780                 :             : }
    2781                 :             : 
    2782                 :             : 
    2783                 :             : /* Return an unsigned type the same as TYPE in other respects.  */
    2784                 :             : 
    2785                 :             : tree
    2786                 :           0 : gimple_unsigned_type (tree type)
    2787                 :             : {
    2788                 :           0 :   return gimple_signed_or_unsigned_type (true, type);
    2789                 :             : }
    2790                 :             : 
    2791                 :             : 
    2792                 :             : /* Return a signed type the same as TYPE in other respects.  */
    2793                 :             : 
    2794                 :             : tree
    2795                 :      485460 : gimple_signed_type (tree type)
    2796                 :             : {
    2797                 :      485460 :   return gimple_signed_or_unsigned_type (false, type);
    2798                 :             : }
    2799                 :             : 
    2800                 :             : 
    2801                 :             : /* Return the typed-based alias set for T, which may be an expression
    2802                 :             :    or a type.  Return -1 if we don't do anything special.  */
    2803                 :             : 
    2804                 :             : alias_set_type
    2805                 :     7433829 : gimple_get_alias_set (tree t)
    2806                 :             : {
    2807                 :             :   /* That's all the expressions we handle specially.  */
    2808                 :     7433829 :   if (!TYPE_P (t))
    2809                 :             :     return -1;
    2810                 :             : 
    2811                 :             :   /* For convenience, follow the C standard when dealing with
    2812                 :             :      character types.  Any object may be accessed via an lvalue that
    2813                 :             :      has character type.  */
    2814                 :     2151409 :   if (t == char_type_node
    2815                 :     1664187 :       || t == signed_char_type_node
    2816                 :     1664187 :       || t == unsigned_char_type_node)
    2817                 :             :     return 0;
    2818                 :             : 
    2819                 :             :   /* Allow aliasing between signed and unsigned variants of the same
    2820                 :             :      type.  We treat the signed variant as canonical.  */
    2821                 :     1664187 :   if (TREE_CODE (t) == INTEGER_TYPE && TYPE_UNSIGNED (t))
    2822                 :             :     {
    2823                 :      484569 :       tree t1 = gimple_signed_type (t);
    2824                 :             : 
    2825                 :             :       /* t1 == t can happen for boolean nodes which are always unsigned.  */
    2826                 :      484569 :       if (t1 != t)
    2827                 :      484569 :         return get_alias_set (t1);
    2828                 :             :     }
    2829                 :             : 
    2830                 :             :   /* Allow aliasing between enumeral types and the underlying
    2831                 :             :      integer type.  This is required for C since those are
    2832                 :             :      compatible types.  */
    2833                 :     1179618 :   else if (TREE_CODE (t) == ENUMERAL_TYPE)
    2834                 :             :     {
    2835                 :           0 :       tree t1 = lang_hooks.types.type_for_size (tree_to_uhwi (TYPE_SIZE (t)),
    2836                 :             :                                                 false /* short-cut above */);
    2837                 :           0 :       return get_alias_set (t1);
    2838                 :             :     }
    2839                 :             : 
    2840                 :             :   return -1;
    2841                 :             : }
    2842                 :             : 
    2843                 :             : 
    2844                 :             : /* Helper for gimple_ior_addresses_taken_1.  */
    2845                 :             : 
    2846                 :             : static bool
    2847                 :    48657038 : gimple_ior_addresses_taken_1 (gimple *, tree addr, tree, void *data)
    2848                 :             : {
    2849                 :    48657038 :   bitmap addresses_taken = (bitmap)data;
    2850                 :    48657038 :   addr = get_base_address (addr);
    2851                 :    48657038 :   if (addr
    2852                 :    48657038 :       && DECL_P (addr))
    2853                 :             :     {
    2854                 :    31638824 :       bitmap_set_bit (addresses_taken, DECL_UID (addr));
    2855                 :    31638824 :       return true;
    2856                 :             :     }
    2857                 :             :   return false;
    2858                 :             : }
    2859                 :             : 
    2860                 :             : /* Set the bit for the uid of all decls that have their address taken
    2861                 :             :    in STMT in the ADDRESSES_TAKEN bitmap.  Returns true if there
    2862                 :             :    were any in this stmt.  */
    2863                 :             : 
    2864                 :             : bool
    2865                 :   719733318 : gimple_ior_addresses_taken (bitmap addresses_taken, gimple *stmt)
    2866                 :             : {
    2867                 :   719733318 :   return walk_stmt_load_store_addr_ops (stmt, addresses_taken, NULL, NULL,
    2868                 :   719733318 :                                         gimple_ior_addresses_taken_1);
    2869                 :             : }
    2870                 :             : 
    2871                 :             : 
    2872                 :             : /* Return true when STMTs arguments and return value match those of FNDECL,
    2873                 :             :    a decl of a builtin function.  */
    2874                 :             : 
    2875                 :             : bool
    2876                 :   260759974 : gimple_builtin_call_types_compatible_p (const gimple *stmt, tree fndecl)
    2877                 :             : {
    2878                 :   260759974 :   gcc_checking_assert (DECL_BUILT_IN_CLASS (fndecl) != NOT_BUILT_IN);
    2879                 :             : 
    2880                 :   260759974 :   if (DECL_BUILT_IN_CLASS (fndecl) == BUILT_IN_NORMAL)
    2881                 :   258602333 :     if (tree decl = builtin_decl_explicit (DECL_FUNCTION_CODE (fndecl)))
    2882                 :   260759974 :       fndecl = decl;
    2883                 :             : 
    2884                 :   260759974 :   tree ret = gimple_call_lhs (stmt);
    2885                 :   260759974 :   if (ret
    2886                 :   425179391 :       && !useless_type_conversion_p (TREE_TYPE (ret),
    2887                 :   164419417 :                                      TREE_TYPE (TREE_TYPE (fndecl))))
    2888                 :             :     return false;
    2889                 :             : 
    2890                 :   260738347 :   tree targs = TYPE_ARG_TYPES (TREE_TYPE (fndecl));
    2891                 :   260738347 :   unsigned nargs = gimple_call_num_args (stmt);
    2892                 :   794378967 :   for (unsigned i = 0; i < nargs; ++i)
    2893                 :             :     {
    2894                 :             :       /* Variadic args follow.  */
    2895                 :   557661984 :       if (!targs)
    2896                 :             :         return true;
    2897                 :   537956778 :       tree arg = gimple_call_arg (stmt, i);
    2898                 :   537956778 :       tree type = TREE_VALUE (targs);
    2899                 :   537956778 :       if (!useless_type_conversion_p (type, TREE_TYPE (arg))
    2900                 :             :           /* char/short integral arguments are promoted to int
    2901                 :             :              by several frontends if targetm.calls.promote_prototypes
    2902                 :             :              is true.  Allow such promotion too.  */
    2903                 :   543378657 :           && !(INTEGRAL_TYPE_P (type)
    2904                 :     8540463 :                && TYPE_PRECISION (type) < TYPE_PRECISION (integer_type_node)
    2905                 :     5421879 :                && targetm.calls.promote_prototypes (TREE_TYPE (fndecl))
    2906                 :     5421879 :                && useless_type_conversion_p (integer_type_node,
    2907                 :     5421879 :                                              TREE_TYPE (arg))))
    2908                 :     4316158 :         return false;
    2909                 :   533640620 :       targs = TREE_CHAIN (targs);
    2910                 :             :     }
    2911                 :   472719898 :   if (targs && !VOID_TYPE_P (TREE_VALUE (targs)))
    2912                 :             :     return false;
    2913                 :             :   return true;
    2914                 :             : }
    2915                 :             : 
    2916                 :             : /* Return true when STMT is operator a replaceable delete call.  */
    2917                 :             : 
    2918                 :             : bool
    2919                 :     1876984 : gimple_call_operator_delete_p (const gcall *stmt)
    2920                 :             : {
    2921                 :     1876984 :   tree fndecl;
    2922                 :             : 
    2923                 :     1876984 :   if ((fndecl = gimple_call_fndecl (stmt)) != NULL_TREE)
    2924                 :     1876984 :     return DECL_IS_OPERATOR_DELETE_P (fndecl);
    2925                 :             :   return false;
    2926                 :             : }
    2927                 :             : 
    2928                 :             : /* Return true when STMT is builtins call.  */
    2929                 :             : 
    2930                 :             : bool
    2931                 :    63773136 : gimple_call_builtin_p (const gimple *stmt)
    2932                 :             : {
    2933                 :    63773136 :   tree fndecl;
    2934                 :    63773136 :   if (is_gimple_call (stmt)
    2935                 :    18549739 :       && (fndecl = gimple_call_fndecl (stmt)) != NULL_TREE
    2936                 :    81453302 :       && DECL_BUILT_IN_CLASS (fndecl) != NOT_BUILT_IN)
    2937                 :     3672571 :     return gimple_builtin_call_types_compatible_p (stmt, fndecl);
    2938                 :             :   return false;
    2939                 :             : }
    2940                 :             : 
    2941                 :             : /* Return true when STMT is builtins call to CLASS.  */
    2942                 :             : 
    2943                 :             : bool
    2944                 :   893921960 : gimple_call_builtin_p (const gimple *stmt, enum built_in_class klass)
    2945                 :             : {
    2946                 :   893921960 :   tree fndecl;
    2947                 :   893921960 :   if (is_gimple_call (stmt)
    2948                 :   668208865 :       && (fndecl = gimple_call_fndecl (stmt)) != NULL_TREE
    2949                 :  1531726234 :       && DECL_BUILT_IN_CLASS (fndecl) == klass)
    2950                 :   171575354 :     return gimple_builtin_call_types_compatible_p (stmt, fndecl);
    2951                 :             :   return false;
    2952                 :             : }
    2953                 :             : 
    2954                 :             : /* Return true when STMT is builtins call to CODE of CLASS.  */
    2955                 :             : 
    2956                 :             : bool
    2957                 :  2587606785 : gimple_call_builtin_p (const gimple *stmt, enum built_in_function code)
    2958                 :             : {
    2959                 :  2587606785 :   tree fndecl;
    2960                 :  2587606785 :   if (is_gimple_call (stmt)
    2961                 :   775008066 :       && (fndecl = gimple_call_fndecl (stmt)) != NULL_TREE
    2962                 :  3328026041 :       && fndecl_built_in_p (fndecl, code))
    2963                 :     1880963 :     return gimple_builtin_call_types_compatible_p (stmt, fndecl);
    2964                 :             :   return false;
    2965                 :             : }
    2966                 :             : 
    2967                 :             : /* If CALL is a call to a combined_fn (i.e. an internal function or
    2968                 :             :    a normal built-in function), return its code, otherwise return
    2969                 :             :    CFN_LAST.  */
    2970                 :             : 
    2971                 :             : combined_fn
    2972                 :   170817781 : gimple_call_combined_fn (const gimple *stmt)
    2973                 :             : {
    2974                 :   170817781 :   if (const gcall *call = dyn_cast <const gcall *> (stmt))
    2975                 :             :     {
    2976                 :   169333576 :       if (gimple_call_internal_p (call))
    2977                 :     6878765 :         return as_combined_fn (gimple_call_internal_fn (call));
    2978                 :             : 
    2979                 :   162454811 :       tree fndecl = gimple_call_fndecl (stmt);
    2980                 :   162454811 :       if (fndecl
    2981                 :   156051829 :           && fndecl_built_in_p (fndecl, BUILT_IN_NORMAL)
    2982                 :   229753810 :           && gimple_builtin_call_types_compatible_p (stmt, fndecl))
    2983                 :    66787969 :         return as_combined_fn (DECL_FUNCTION_CODE (fndecl));
    2984                 :             :     }
    2985                 :             :   return CFN_LAST;
    2986                 :             : }
    2987                 :             : 
    2988                 :             : /* Return true if STMT clobbers memory.  STMT is required to be a
    2989                 :             :    GIMPLE_ASM.  */
    2990                 :             : 
    2991                 :             : bool
    2992                 :    11277964 : gimple_asm_clobbers_memory_p (const gasm *stmt)
    2993                 :             : {
    2994                 :    11277964 :   unsigned i;
    2995                 :             : 
    2996                 :    16571545 :   for (i = 0; i < gimple_asm_nclobbers (stmt); i++)
    2997                 :             :     {
    2998                 :     9534763 :       tree op = gimple_asm_clobber_op (stmt, i);
    2999                 :     9534763 :       if (strcmp (TREE_STRING_POINTER (TREE_VALUE (op)), "memory") == 0)
    3000                 :             :         return true;
    3001                 :             :     }
    3002                 :             : 
    3003                 :             :   /* Non-empty basic ASM implicitly clobbers memory.  */
    3004                 :     7036782 :   if (gimple_asm_basic_p (stmt) && strlen (gimple_asm_string (stmt)) != 0)
    3005                 :       92467 :     return true;
    3006                 :             : 
    3007                 :             :   return false;
    3008                 :             : }
    3009                 :             : 
    3010                 :             : /* Dump bitmap SET (assumed to contain VAR_DECLs) to FILE.  */
    3011                 :             : 
    3012                 :             : void
    3013                 :        5209 : dump_decl_set (FILE *file, bitmap set)
    3014                 :             : {
    3015                 :        5209 :   if (set)
    3016                 :             :     {
    3017                 :        5209 :       bitmap_iterator bi;
    3018                 :        5209 :       unsigned i;
    3019                 :             : 
    3020                 :        5209 :       fprintf (file, "{ ");
    3021                 :             : 
    3022                 :       21923 :       EXECUTE_IF_SET_IN_BITMAP (set, 0, i, bi)
    3023                 :             :         {
    3024                 :       16714 :           fprintf (file, "D.%u", i);
    3025                 :       16714 :           fprintf (file, " ");
    3026                 :             :         }
    3027                 :             : 
    3028                 :        5209 :       fprintf (file, "}");
    3029                 :             :     }
    3030                 :             :   else
    3031                 :           0 :     fprintf (file, "NIL");
    3032                 :        5209 : }
    3033                 :             : 
    3034                 :             : /* Return true when CALL is a call stmt that definitely doesn't
    3035                 :             :    free any memory or makes it unavailable otherwise.  */
    3036                 :             : bool
    3037                 :     9148923 : nonfreeing_call_p (gimple *call)
    3038                 :             : {
    3039                 :     9148923 :   if (gimple_call_builtin_p (call, BUILT_IN_NORMAL)
    3040                 :     9148923 :       && gimple_call_flags (call) & ECF_LEAF)
    3041                 :     4009907 :     switch (DECL_FUNCTION_CODE (gimple_call_fndecl (call)))
    3042                 :             :       {
    3043                 :             :         /* Just in case these become ECF_LEAF in the future.  */
    3044                 :             :         case BUILT_IN_FREE:
    3045                 :             :         case BUILT_IN_TM_FREE:
    3046                 :             :         case BUILT_IN_REALLOC:
    3047                 :             :         case BUILT_IN_STACK_RESTORE:
    3048                 :             :         case BUILT_IN_GOMP_FREE:
    3049                 :             :         case BUILT_IN_GOMP_REALLOC:
    3050                 :             :           return false;
    3051                 :             :         default:
    3052                 :             :           return true;
    3053                 :             :       }
    3054                 :     5139016 :   else if (gimple_call_internal_p (call))
    3055                 :      615316 :     switch (gimple_call_internal_fn (call))
    3056                 :             :       {
    3057                 :             :       case IFN_ABNORMAL_DISPATCHER:
    3058                 :             :         return true;
    3059                 :       27371 :       case IFN_ASAN_MARK:
    3060                 :       27371 :         return tree_to_uhwi (gimple_call_arg (call, 0)) == ASAN_MARK_UNPOISON;
    3061                 :      582252 :       default:
    3062                 :      582252 :         if (gimple_call_flags (call) & ECF_LEAF)
    3063                 :             :           return true;
    3064                 :             :         return false;
    3065                 :             :       }
    3066                 :             : 
    3067                 :     4523700 :   tree fndecl = gimple_call_fndecl (call);
    3068                 :     4523700 :   if (!fndecl)
    3069                 :             :     return false;
    3070                 :     4368992 :   struct cgraph_node *n = cgraph_node::get (fndecl);
    3071                 :     4368992 :   if (!n)
    3072                 :             :     return false;
    3073                 :     4367498 :   enum availability availability;
    3074                 :     4367498 :   n = n->function_symbol (&availability);
    3075                 :     4367498 :   if (!n || availability <= AVAIL_INTERPOSABLE)
    3076                 :             :     return false;
    3077                 :     1040367 :   return n->nonfreeing_fn;
    3078                 :             : }
    3079                 :             : 
    3080                 :             : /* Return true when CALL is a call stmt that definitely need not
    3081                 :             :    be considered to be a memory barrier.  */
    3082                 :             : bool
    3083                 :     1510428 : nonbarrier_call_p (gimple *call)
    3084                 :             : {
    3085                 :     1510428 :   if (gimple_call_flags (call) & (ECF_PURE | ECF_CONST))
    3086                 :      570052 :     return true;
    3087                 :             :   /* Should extend this to have a nonbarrier_fn flag, just as above in
    3088                 :             :      the nonfreeing case.  */
    3089                 :             :   return false;
    3090                 :             : }
    3091                 :             : 
    3092                 :             : /* Callback for walk_stmt_load_store_ops.
    3093                 :             : 
    3094                 :             :    Return TRUE if OP will dereference the tree stored in DATA, FALSE
    3095                 :             :    otherwise.
    3096                 :             : 
    3097                 :             :    This routine only makes a superficial check for a dereference.  Thus
    3098                 :             :    it must only be used if it is safe to return a false negative.  */
    3099                 :             : static bool
    3100                 :    70770942 : check_loadstore (gimple *, tree op, tree, void *data)
    3101                 :             : {
    3102                 :    70770942 :   if (TREE_CODE (op) == MEM_REF || TREE_CODE (op) == TARGET_MEM_REF)
    3103                 :             :     {
    3104                 :             :       /* Some address spaces may legitimately dereference zero.  */
    3105                 :    33903130 :       addr_space_t as = TYPE_ADDR_SPACE (TREE_TYPE (op));
    3106                 :    33903130 :       if (targetm.addr_space.zero_address_valid (as))
    3107                 :             :         return false;
    3108                 :             : 
    3109                 :    33902019 :       return operand_equal_p (TREE_OPERAND (op, 0), (tree)data, 0);
    3110                 :             :     }
    3111                 :             :   return false;
    3112                 :             : }
    3113                 :             : 
    3114                 :             : 
    3115                 :             : /* Return true if OP can be inferred to be non-NULL after STMT executes,
    3116                 :             :    either by using a pointer dereference or attributes.  */
    3117                 :             : bool
    3118                 :           0 : infer_nonnull_range (gimple *stmt, tree op)
    3119                 :             : {
    3120                 :           0 :   return (infer_nonnull_range_by_dereference (stmt, op)
    3121                 :           0 :           || infer_nonnull_range_by_attribute (stmt, op));
    3122                 :             : }
    3123                 :             : 
    3124                 :             : /* Return true if OP can be inferred to be non-NULL after STMT
    3125                 :             :    executes by using a pointer dereference.  */
    3126                 :             : bool
    3127                 :   292678700 : infer_nonnull_range_by_dereference (gimple *stmt, tree op)
    3128                 :             : {
    3129                 :             :   /* We can only assume that a pointer dereference will yield
    3130                 :             :      non-NULL if -fdelete-null-pointer-checks is enabled.  */
    3131                 :   292678700 :   if (!flag_delete_null_pointer_checks
    3132                 :   292464182 :       || !POINTER_TYPE_P (TREE_TYPE (op))
    3133                 :   292464182 :       || gimple_code (stmt) == GIMPLE_ASM
    3134                 :   584702094 :       || gimple_clobber_p (stmt))
    3135                 :             :     return false;
    3136                 :             : 
    3137                 :   284773023 :   if (walk_stmt_load_store_ops (stmt, (void *)op,
    3138                 :             :                                 check_loadstore, check_loadstore))
    3139                 :             :     return true;
    3140                 :             : 
    3141                 :             :   return false;
    3142                 :             : }
    3143                 :             : 
    3144                 :             : /* Return true if OP can be inferred to be a non-NULL after STMT
    3145                 :             :    executes by using attributes.  If OP2 is non-NULL and nonnull_if_nonzero
    3146                 :             :    is the only attribute implying OP being non-NULL and the corresponding
    3147                 :             :    argument isn't non-zero INTEGER_CST, set *OP2 to the corresponding
    3148                 :             :    argument and return true (in that case returning true doesn't mean
    3149                 :             :    OP can be unconditionally inferred to be non-NULL, but conditionally).  */
    3150                 :             : bool
    3151                 :    63522062 : infer_nonnull_range_by_attribute (gimple *stmt, tree op, tree *op2)
    3152                 :             : {
    3153                 :    63522062 :   if (op2)
    3154                 :        3387 :     *op2 = NULL_TREE;
    3155                 :             : 
    3156                 :             :   /* We can only assume that a pointer dereference will yield
    3157                 :             :      non-NULL if -fdelete-null-pointer-checks is enabled.  */
    3158                 :    63522062 :   if (!flag_delete_null_pointer_checks
    3159                 :    63495034 :       || !POINTER_TYPE_P (TREE_TYPE (op))
    3160                 :   127017096 :       || gimple_code (stmt) == GIMPLE_ASM)
    3161                 :             :     return false;
    3162                 :             : 
    3163                 :    63441866 :   if (is_gimple_call (stmt) && !gimple_call_internal_p (stmt))
    3164                 :             :     {
    3165                 :     4110807 :       tree fntype = gimple_call_fntype (stmt);
    3166                 :     4110807 :       tree attrs = TYPE_ATTRIBUTES (fntype);
    3167                 :     4185268 :       for (; attrs; attrs = TREE_CHAIN (attrs))
    3168                 :             :         {
    3169                 :     1037845 :           attrs = lookup_attribute ("nonnull", attrs);
    3170                 :             : 
    3171                 :             :           /* If "nonnull" wasn't specified, we know nothing about
    3172                 :             :              the argument, unless "nonnull_if_nonzero" attribute is
    3173                 :             :              present.  */
    3174                 :     1037845 :           if (attrs == NULL_TREE)
    3175                 :             :             break;
    3176                 :             : 
    3177                 :             :           /* If "nonnull" applies to all the arguments, then ARG
    3178                 :             :              is non-null if it's in the argument list.  */
    3179                 :      321140 :           if (TREE_VALUE (attrs) == NULL_TREE)
    3180                 :             :             {
    3181                 :      819977 :               for (unsigned int i = 0; i < gimple_call_num_args (stmt); i++)
    3182                 :             :                 {
    3183                 :      694550 :                   if (POINTER_TYPE_P (TREE_TYPE (gimple_call_arg (stmt, i)))
    3184                 :      574626 :                       && operand_equal_p (op, gimple_call_arg (stmt, i), 0))
    3185                 :             :                     return true;
    3186                 :             :                 }
    3187                 :             :               return false;
    3188                 :             :             }
    3189                 :             : 
    3190                 :             :           /* Now see if op appears in the nonnull list.  */
    3191                 :      191259 :           for (tree t = TREE_VALUE (attrs); t; t = TREE_CHAIN (t))
    3192                 :             :             {
    3193                 :      116798 :               unsigned int idx = TREE_INT_CST_LOW (TREE_VALUE (t)) - 1;
    3194                 :      116798 :               if (idx < gimple_call_num_args (stmt))
    3195                 :             :                 {
    3196                 :      116798 :                   tree arg = gimple_call_arg (stmt, idx);
    3197                 :      116798 :                   if (operand_equal_p (op, arg, 0))
    3198                 :             :                     return true;
    3199                 :             :                 }
    3200                 :             :             }
    3201                 :             :         }
    3202                 :             : 
    3203                 :     3864128 :       for (attrs = TYPE_ATTRIBUTES (fntype);
    3204                 :     3864271 :            (attrs = lookup_attribute ("nonnull_if_nonzero", attrs));
    3205                 :         143 :            attrs = TREE_CHAIN (attrs))
    3206                 :             :         {
    3207                 :         329 :           tree args = TREE_VALUE (attrs);
    3208                 :         329 :           unsigned int idx = TREE_INT_CST_LOW (TREE_VALUE (args)) - 1;
    3209                 :         329 :           unsigned int idx2
    3210                 :         329 :             = TREE_INT_CST_LOW (TREE_VALUE (TREE_CHAIN (args))) - 1;
    3211                 :         329 :           if (idx < gimple_call_num_args (stmt)
    3212                 :         329 :               && idx2 < gimple_call_num_args (stmt)
    3213                 :         658 :               && operand_equal_p (op, gimple_call_arg (stmt, idx), 0))
    3214                 :             :             {
    3215                 :         186 :               tree arg2 = gimple_call_arg (stmt, idx2);
    3216                 :         186 :               if (!INTEGRAL_TYPE_P (TREE_TYPE (arg2)))
    3217                 :             :                 return false;
    3218                 :         186 :               if (integer_nonzerop (arg2))
    3219                 :             :                 return true;
    3220                 :         105 :               if (integer_zerop (arg2))
    3221                 :             :                 return false;
    3222                 :          82 :               if (op2)
    3223                 :             :                 {
    3224                 :             :                   /* This case is meant for ubsan instrumentation.
    3225                 :             :                      The caller can check at runtime if *OP2 is
    3226                 :             :                      non-zero and OP is null.  */
    3227                 :          40 :                   *op2 = arg2;
    3228                 :          40 :                   return true;
    3229                 :             :                 }
    3230                 :          42 :               return tree_expr_nonzero_p (arg2);
    3231                 :             :             }
    3232                 :             :         }
    3233                 :             :     }
    3234                 :             : 
    3235                 :             :   /* If this function is marked as returning non-null, then we can
    3236                 :             :      infer OP is non-null if it is used in the return statement.  */
    3237                 :    63195001 :   if (greturn *return_stmt = dyn_cast <greturn *> (stmt))
    3238                 :      910409 :     if (gimple_return_retval (return_stmt)
    3239                 :      530432 :         && operand_equal_p (gimple_return_retval (return_stmt), op, 0)
    3240                 :      997001 :         && lookup_attribute ("returns_nonnull",
    3241                 :       86592 :                              TYPE_ATTRIBUTES (TREE_TYPE (current_function_decl))))
    3242                 :             :       return true;
    3243                 :             : 
    3244                 :             :   return false;
    3245                 :             : }
    3246                 :             : 
    3247                 :             : /* Compare two case labels.  Because the front end should already have
    3248                 :             :    made sure that case ranges do not overlap, it is enough to only compare
    3249                 :             :    the CASE_LOW values of each case label.  */
    3250                 :             : 
    3251                 :             : static int
    3252                 :    44591349 : compare_case_labels (const void *p1, const void *p2)
    3253                 :             : {
    3254                 :    44591349 :   const_tree const case1 = *(const_tree const*)p1;
    3255                 :    44591349 :   const_tree const case2 = *(const_tree const*)p2;
    3256                 :             : 
    3257                 :             :   /* The 'default' case label always goes first.  */
    3258                 :    44591349 :   if (!CASE_LOW (case1))
    3259                 :             :     return -1;
    3260                 :    44591349 :   else if (!CASE_LOW (case2))
    3261                 :             :     return 1;
    3262                 :             :   else
    3263                 :    44591349 :     return tree_int_cst_compare (CASE_LOW (case1), CASE_LOW (case2));
    3264                 :             : }
    3265                 :             : 
    3266                 :             : /* Sort the case labels in LABEL_VEC in place in ascending order.  */
    3267                 :             : 
    3268                 :             : void
    3269                 :       67944 : sort_case_labels (vec<tree> &label_vec)
    3270                 :             : {
    3271                 :       67944 :   label_vec.qsort (compare_case_labels);
    3272                 :       67944 : }
    3273                 :             : 
    3274                 :             : /* Prepare a vector of case labels to be used in a GIMPLE_SWITCH statement.
    3275                 :             : 
    3276                 :             :    LABELS is a vector that contains all case labels to look at.
    3277                 :             : 
    3278                 :             :    INDEX_TYPE is the type of the switch index expression.  Case labels
    3279                 :             :    in LABELS are discarded if their values are not in the value range
    3280                 :             :    covered by INDEX_TYPE.  The remaining case label values are folded
    3281                 :             :    to INDEX_TYPE.
    3282                 :             : 
    3283                 :             :    If a default case exists in LABELS, it is removed from LABELS and
    3284                 :             :    returned in DEFAULT_CASEP.  If no default case exists, but the
    3285                 :             :    case labels already cover the whole range of INDEX_TYPE, a default
    3286                 :             :    case is returned pointing to one of the existing case labels.
    3287                 :             :    Otherwise DEFAULT_CASEP is set to NULL_TREE.
    3288                 :             : 
    3289                 :             :    DEFAULT_CASEP may be NULL, in which case the above comment doesn't
    3290                 :             :    apply and no action is taken regardless of whether a default case is
    3291                 :             :    found or not.  */
    3292                 :             : 
    3293                 :             : void
    3294                 :       61373 : preprocess_case_label_vec_for_gimple (vec<tree> &labels,
    3295                 :             :                                       tree index_type,
    3296                 :             :                                       tree *default_casep)
    3297                 :             : {
    3298                 :       61373 :   tree min_value, max_value;
    3299                 :       61373 :   tree default_case = NULL_TREE;
    3300                 :       61373 :   size_t i, len;
    3301                 :             : 
    3302                 :       61373 :   i = 0;
    3303                 :       61373 :   min_value = TYPE_MIN_VALUE (index_type);
    3304                 :       61373 :   max_value = TYPE_MAX_VALUE (index_type);
    3305                 :     1179245 :   while (i < labels.length ())
    3306                 :             :     {
    3307                 :     1117872 :       tree elt = labels[i];
    3308                 :     1117872 :       tree low = CASE_LOW (elt);
    3309                 :     1117872 :       tree high = CASE_HIGH (elt);
    3310                 :     1117872 :       bool remove_element = false;
    3311                 :             : 
    3312                 :     1117872 :       if (low)
    3313                 :             :         {
    3314                 :     1083683 :           gcc_checking_assert (TREE_CODE (low) == INTEGER_CST);
    3315                 :     1083683 :           gcc_checking_assert (!high || TREE_CODE (high) == INTEGER_CST);
    3316                 :             : 
    3317                 :             :           /* This is a non-default case label, i.e. it has a value.
    3318                 :             : 
    3319                 :             :              See if the case label is reachable within the range of
    3320                 :             :              the index type.  Remove out-of-range case values.  Turn
    3321                 :             :              case ranges into a canonical form (high > low strictly)
    3322                 :             :              and convert the case label values to the index type.
    3323                 :             : 
    3324                 :             :              NB: The type of gimple_switch_index() may be the promoted
    3325                 :             :              type, but the case labels retain the original type.  */
    3326                 :             : 
    3327                 :       16148 :           if (high)
    3328                 :             :             {
    3329                 :             :               /* This is a case range.  Discard empty ranges.
    3330                 :             :                  If the bounds or the range are equal, turn this
    3331                 :             :                  into a simple (one-value) case.  */
    3332                 :       16148 :               int cmp = tree_int_cst_compare (high, low);
    3333                 :       16148 :               if (cmp < 0)
    3334                 :             :                 remove_element = true;
    3335                 :       16148 :               else if (cmp == 0)
    3336                 :             :                 high = NULL_TREE;
    3337                 :             :             }
    3338                 :             : 
    3339                 :     1072779 :           if (! high)
    3340                 :             :             {
    3341                 :             :               /* If the simple case value is unreachable, ignore it.  */
    3342                 :     1078439 :               if ((TREE_CODE (min_value) == INTEGER_CST
    3343                 :     1078439 :                    && tree_int_cst_compare (low, min_value) < 0)
    3344                 :     2156835 :                   || (TREE_CODE (max_value) == INTEGER_CST
    3345                 :     1078396 :                       && tree_int_cst_compare (low, max_value) > 0))
    3346                 :             :                 remove_element = true;
    3347                 :             :               else
    3348                 :     1078278 :                 low = fold_convert (index_type, low);
    3349                 :             :             }
    3350                 :             :           else
    3351                 :             :             {
    3352                 :             :               /* If the entire case range is unreachable, ignore it.  */
    3353                 :        5244 :               if ((TREE_CODE (min_value) == INTEGER_CST
    3354                 :        5244 :                    && tree_int_cst_compare (high, min_value) < 0)
    3355                 :       10476 :                   || (TREE_CODE (max_value) == INTEGER_CST
    3356                 :        5232 :                       && tree_int_cst_compare (low, max_value) > 0))
    3357                 :             :                 remove_element = true;
    3358                 :             :               else
    3359                 :             :                 {
    3360                 :             :                   /* If the lower bound is less than the index type's
    3361                 :             :                      minimum value, truncate the range bounds.  */
    3362                 :        5232 :                   if (TREE_CODE (min_value) == INTEGER_CST
    3363                 :        5232 :                       && tree_int_cst_compare (low, min_value) < 0)
    3364                 :             :                     low = min_value;
    3365                 :        5232 :                   low = fold_convert (index_type, low);
    3366                 :             : 
    3367                 :             :                   /* If the upper bound is greater than the index type's
    3368                 :             :                      maximum value, truncate the range bounds.  */
    3369                 :        5232 :                   if (TREE_CODE (max_value) == INTEGER_CST
    3370                 :        5232 :                       && tree_int_cst_compare (high, max_value) > 0)
    3371                 :             :                     high = max_value;
    3372                 :        5232 :                   high = fold_convert (index_type, high);
    3373                 :             : 
    3374                 :             :                   /* We may have folded a case range to a one-value case.  */
    3375                 :        5232 :                   if (tree_int_cst_equal (low, high))
    3376                 :           0 :                     high = NULL_TREE;
    3377                 :             :                 }
    3378                 :             :             }
    3379                 :             : 
    3380                 :     1083683 :           CASE_LOW (elt) = low;
    3381                 :     1083683 :           CASE_HIGH (elt) = high;
    3382                 :             :         }
    3383                 :             :       else
    3384                 :             :         {
    3385                 :       34189 :           gcc_assert (!default_case);
    3386                 :       34189 :           default_case = elt;
    3387                 :             :           /* The default case must be passed separately to the
    3388                 :             :              gimple_build_switch routine.  But if DEFAULT_CASEP
    3389                 :             :              is NULL, we do not remove the default case (it would
    3390                 :             :              be completely lost).  */
    3391                 :       34189 :           if (default_casep)
    3392                 :             :             remove_element = true;
    3393                 :             :         }
    3394                 :             : 
    3395                 :     1083683 :       if (remove_element)
    3396                 :       34362 :         labels.ordered_remove (i);
    3397                 :             :       else
    3398                 :     1083510 :         i++;
    3399                 :             :     }
    3400                 :       61373 :   len = i;
    3401                 :             : 
    3402                 :       61373 :   if (!labels.is_empty ())
    3403                 :       60548 :     sort_case_labels (labels);
    3404                 :             : 
    3405                 :       61373 :   if (default_casep && !default_case)
    3406                 :             :     {
    3407                 :             :       /* If the switch has no default label, add one, so that we jump
    3408                 :             :          around the switch body.  If the labels already cover the whole
    3409                 :             :          range of the switch index_type, add the default label pointing
    3410                 :             :          to one of the existing labels.  */
    3411                 :       14298 :       if (len
    3412                 :       13834 :           && TYPE_MIN_VALUE (index_type)
    3413                 :       13834 :           && TYPE_MAX_VALUE (index_type)
    3414                 :       28132 :           && tree_int_cst_equal (CASE_LOW (labels[0]),
    3415                 :       13834 :                                  TYPE_MIN_VALUE (index_type)))
    3416                 :             :         {
    3417                 :        4114 :           tree low, high = CASE_HIGH (labels[len - 1]);
    3418                 :        4114 :           if (!high)
    3419                 :        4071 :             high = CASE_LOW (labels[len - 1]);
    3420                 :        4114 :           if (tree_int_cst_equal (high, TYPE_MAX_VALUE (index_type)))
    3421                 :             :             {
    3422                 :          64 :               tree widest_label = labels[0];
    3423                 :         132 :               for (i = 1; i < len; i++)
    3424                 :             :                 {
    3425                 :          85 :                   high = CASE_LOW (labels[i]);
    3426                 :          85 :                   low = CASE_HIGH (labels[i - 1]);
    3427                 :          85 :                   if (!low)
    3428                 :          55 :                     low = CASE_LOW (labels[i - 1]);
    3429                 :             : 
    3430                 :          85 :                   if (CASE_HIGH (labels[i]) != NULL_TREE
    3431                 :         116 :                       && (CASE_HIGH (widest_label) == NULL_TREE
    3432                 :          26 :                           || (wi::gtu_p
    3433                 :          52 :                               (wi::to_wide (CASE_HIGH (labels[i]))
    3434                 :          78 :                                - wi::to_wide (CASE_LOW (labels[i])),
    3435                 :          26 :                                wi::to_wide (CASE_HIGH (widest_label))
    3436                 :         163 :                                - wi::to_wide (CASE_LOW (widest_label))))))
    3437                 :          17 :                     widest_label = labels[i];
    3438                 :             : 
    3439                 :          85 :                   if (wi::to_wide (low) + 1 != wi::to_wide (high))
    3440                 :             :                     break;
    3441                 :             :                 }
    3442                 :          64 :               if (i == len)
    3443                 :             :                 {
    3444                 :             :                   /* Designate the label with the widest range to be the
    3445                 :             :                      default label.  */
    3446                 :          47 :                   tree label = CASE_LABEL (widest_label);
    3447                 :          47 :                   default_case = build_case_label (NULL_TREE, NULL_TREE,
    3448                 :             :                                                    label);
    3449                 :             :                 }
    3450                 :             :             }
    3451                 :             :         }
    3452                 :             :     }
    3453                 :             : 
    3454                 :       61373 :   if (default_casep)
    3455                 :       48487 :     *default_casep = default_case;
    3456                 :       61373 : }
    3457                 :             : 
    3458                 :             : /* Set the location of all statements in SEQ to LOC.  */
    3459                 :             : 
    3460                 :             : void
    3461                 :        4293 : gimple_seq_set_location (gimple_seq seq, location_t loc)
    3462                 :             : {
    3463                 :       24764 :   for (gimple_stmt_iterator i = gsi_start (seq); !gsi_end_p (i); gsi_next (&i))
    3464                 :       20471 :     gimple_set_location (gsi_stmt (i), loc);
    3465                 :        4293 : }
    3466                 :             : 
    3467                 :             : /* Release SSA_NAMEs in SEQ as well as the GIMPLE statements.  */
    3468                 :             : 
    3469                 :             : void
    3470                 :      832509 : gimple_seq_discard (gimple_seq seq)
    3471                 :             : {
    3472                 :      832509 :   gimple_stmt_iterator gsi;
    3473                 :             : 
    3474                 :     1310480 :   for (gsi = gsi_start (seq); !gsi_end_p (gsi); )
    3475                 :             :     {
    3476                 :      323626 :       gimple *stmt = gsi_stmt (gsi);
    3477                 :      323626 :       gsi_remove (&gsi, true);
    3478                 :      323626 :       release_defs (stmt);
    3479                 :      323626 :       ggc_free (stmt);
    3480                 :             :     }
    3481                 :      832509 : }
    3482                 :             : 
    3483                 :             : /* See if STMT now calls function that takes no parameters and if so, drop
    3484                 :             :    call arguments.  This is used when devirtualization machinery redirects
    3485                 :             :    to __builtin_unreachable or __cxa_pure_virtual.  */
    3486                 :             : 
    3487                 :             : void
    3488                 :      784390 : maybe_remove_unused_call_args (struct function *fn, gimple *stmt)
    3489                 :             : {
    3490                 :      784390 :   tree decl = gimple_call_fndecl (stmt);
    3491                 :      784390 :   if (TYPE_ARG_TYPES (TREE_TYPE (decl))
    3492                 :      783573 :       && TREE_VALUE (TYPE_ARG_TYPES (TREE_TYPE (decl))) == void_type_node
    3493                 :      933477 :       && gimple_call_num_args (stmt))
    3494                 :             :     {
    3495                 :       78932 :       gimple_set_num_ops (stmt, 3);
    3496                 :       78932 :       update_stmt_fn (fn, stmt);
    3497                 :             :     }
    3498                 :      784390 : }
    3499                 :             : 
    3500                 :             : /* Return false if STMT will likely expand to real function call.  */
    3501                 :             : 
    3502                 :             : bool
    3503                 :     3030118 : gimple_inexpensive_call_p (gcall *stmt)
    3504                 :             : {
    3505                 :     3030118 :   if (gimple_call_internal_p (stmt))
    3506                 :             :     return true;
    3507                 :     2991471 :   tree decl = gimple_call_fndecl (stmt);
    3508                 :     2991471 :   if (decl && is_inexpensive_builtin (decl))
    3509                 :             :     return true;
    3510                 :             :   return false;
    3511                 :             : }
    3512                 :             : 
    3513                 :             : /* Return a non-artificial location for STMT.  If STMT does not have
    3514                 :             :    location information, get the location from EXPR.  */
    3515                 :             : 
    3516                 :             : location_t
    3517                 :      109277 : gimple_or_expr_nonartificial_location (gimple *stmt, tree expr)
    3518                 :             : {
    3519                 :      109277 :   location_t loc = gimple_nonartificial_location (stmt);
    3520                 :      109277 :   if (loc == UNKNOWN_LOCATION && EXPR_HAS_LOCATION (expr))
    3521                 :         125 :     loc = tree_nonartificial_location (expr);
    3522                 :      109277 :   return expansion_point_location_if_in_system_header (loc);
    3523                 :             : }
    3524                 :             : 
    3525                 :             : 
    3526                 :             : #if CHECKING_P
    3527                 :             : 
    3528                 :             : namespace selftest {
    3529                 :             : 
    3530                 :             : /* Selftests for core gimple structures.  */
    3531                 :             : 
    3532                 :             : /* Verify that STMT is pretty-printed as EXPECTED.
    3533                 :             :    Helper function for selftests.  */
    3534                 :             : 
    3535                 :             : static void
    3536                 :          20 : verify_gimple_pp (const char *expected, gimple *stmt)
    3537                 :             : {
    3538                 :          20 :   pretty_printer pp;
    3539                 :          20 :   pp_gimple_stmt_1 (&pp, stmt, 0 /* spc */, TDF_NONE /* flags */);
    3540                 :          20 :   ASSERT_STREQ (expected, pp_formatted_text (&pp));
    3541                 :          20 : }
    3542                 :             : 
    3543                 :             : /* Build a GIMPLE_ASSIGN equivalent to
    3544                 :             :      tmp = 5;
    3545                 :             :    and verify various properties of it.  */
    3546                 :             : 
    3547                 :             : static void
    3548                 :           4 : test_assign_single ()
    3549                 :             : {
    3550                 :           4 :   tree type = integer_type_node;
    3551                 :           4 :   tree lhs = build_decl (UNKNOWN_LOCATION, VAR_DECL,
    3552                 :             :                          get_identifier ("tmp"),
    3553                 :             :                          type);
    3554                 :           4 :   tree rhs = build_int_cst (type, 5);
    3555                 :           4 :   gassign *stmt = gimple_build_assign (lhs, rhs);
    3556                 :           4 :   verify_gimple_pp ("tmp = 5;", stmt);
    3557                 :             : 
    3558                 :           4 :   ASSERT_TRUE (is_gimple_assign (stmt));
    3559                 :           4 :   ASSERT_EQ (lhs, gimple_assign_lhs (stmt));
    3560                 :           4 :   ASSERT_EQ (lhs, gimple_get_lhs (stmt));
    3561                 :           4 :   ASSERT_EQ (rhs, gimple_assign_rhs1 (stmt));
    3562                 :           4 :   ASSERT_EQ (NULL, gimple_assign_rhs2 (stmt));
    3563                 :           4 :   ASSERT_EQ (NULL, gimple_assign_rhs3 (stmt));
    3564                 :           4 :   ASSERT_TRUE (gimple_assign_single_p (stmt));
    3565                 :           8 :   ASSERT_EQ (INTEGER_CST, gimple_assign_rhs_code (stmt));
    3566                 :           4 : }
    3567                 :             : 
    3568                 :             : /* Build a GIMPLE_ASSIGN equivalent to
    3569                 :             :      tmp = a * b;
    3570                 :             :    and verify various properties of it.  */
    3571                 :             : 
    3572                 :             : static void
    3573                 :           4 : test_assign_binop ()
    3574                 :             : {
    3575                 :           4 :   tree type = integer_type_node;
    3576                 :           4 :   tree lhs = build_decl (UNKNOWN_LOCATION, VAR_DECL,
    3577                 :             :                          get_identifier ("tmp"),
    3578                 :             :                          type);
    3579                 :           4 :   tree a = build_decl (UNKNOWN_LOCATION, VAR_DECL,
    3580                 :             :                        get_identifier ("a"),
    3581                 :             :                        type);
    3582                 :           4 :   tree b = build_decl (UNKNOWN_LOCATION, VAR_DECL,
    3583                 :             :                        get_identifier ("b"),
    3584                 :             :                        type);
    3585                 :           4 :   gassign *stmt = gimple_build_assign (lhs, MULT_EXPR, a, b);
    3586                 :           4 :   verify_gimple_pp ("tmp = a * b;", stmt);
    3587                 :             : 
    3588                 :           4 :   ASSERT_TRUE (is_gimple_assign (stmt));
    3589                 :           4 :   ASSERT_EQ (lhs, gimple_assign_lhs (stmt));
    3590                 :           4 :   ASSERT_EQ (lhs, gimple_get_lhs (stmt));
    3591                 :           4 :   ASSERT_EQ (a, gimple_assign_rhs1 (stmt));
    3592                 :           8 :   ASSERT_EQ (b, gimple_assign_rhs2 (stmt));
    3593                 :           4 :   ASSERT_EQ (NULL, gimple_assign_rhs3 (stmt));
    3594                 :           4 :   ASSERT_FALSE (gimple_assign_single_p (stmt));
    3595                 :           4 :   ASSERT_EQ (MULT_EXPR, gimple_assign_rhs_code (stmt));
    3596                 :           4 : }
    3597                 :             : 
    3598                 :             : /* Build a GIMPLE_NOP and verify various properties of it.  */
    3599                 :             : 
    3600                 :             : static void
    3601                 :           4 : test_nop_stmt ()
    3602                 :             : {
    3603                 :           4 :   gimple *stmt = gimple_build_nop ();
    3604                 :           4 :   verify_gimple_pp ("GIMPLE_NOP", stmt);
    3605                 :           4 :   ASSERT_EQ (GIMPLE_NOP, gimple_code (stmt));
    3606                 :           4 :   ASSERT_EQ (NULL, gimple_get_lhs (stmt));
    3607                 :           4 :   ASSERT_FALSE (gimple_assign_single_p (stmt));
    3608                 :           4 : }
    3609                 :             : 
    3610                 :             : /* Build a GIMPLE_RETURN equivalent to
    3611                 :             :      return 7;
    3612                 :             :    and verify various properties of it.  */
    3613                 :             : 
    3614                 :             : static void
    3615                 :           4 : test_return_stmt ()
    3616                 :             : {
    3617                 :           4 :   tree type = integer_type_node;
    3618                 :           4 :   tree val = build_int_cst (type, 7);
    3619                 :           4 :   greturn *stmt = gimple_build_return (val);
    3620                 :           4 :   verify_gimple_pp ("return 7;", stmt);
    3621                 :             : 
    3622                 :           4 :   ASSERT_EQ (GIMPLE_RETURN, gimple_code (stmt));
    3623                 :           4 :   ASSERT_EQ (NULL, gimple_get_lhs (stmt));
    3624                 :           4 :   ASSERT_EQ (val, gimple_return_retval (stmt));
    3625                 :           4 :   ASSERT_FALSE (gimple_assign_single_p (stmt));
    3626                 :           4 : }
    3627                 :             : 
    3628                 :             : /* Build a GIMPLE_RETURN equivalent to
    3629                 :             :      return;
    3630                 :             :    and verify various properties of it.  */
    3631                 :             : 
    3632                 :             : static void
    3633                 :           4 : test_return_without_value ()
    3634                 :             : {
    3635                 :           4 :   greturn *stmt = gimple_build_return (NULL);
    3636                 :           4 :   verify_gimple_pp ("return;", stmt);
    3637                 :             : 
    3638                 :           4 :   ASSERT_EQ (GIMPLE_RETURN, gimple_code (stmt));
    3639                 :           4 :   ASSERT_EQ (NULL, gimple_get_lhs (stmt));
    3640                 :           4 :   ASSERT_EQ (NULL, gimple_return_retval (stmt));
    3641                 :           4 :   ASSERT_FALSE (gimple_assign_single_p (stmt));
    3642                 :           4 : }
    3643                 :             : 
    3644                 :             : /* Run all of the selftests within this file.  */
    3645                 :             : 
    3646                 :             : void
    3647                 :           4 : gimple_cc_tests ()
    3648                 :             : {
    3649                 :           4 :   test_assign_single ();
    3650                 :           4 :   test_assign_binop ();
    3651                 :           4 :   test_nop_stmt ();
    3652                 :           4 :   test_return_stmt ();
    3653                 :           4 :   test_return_without_value ();
    3654                 :           4 : }
    3655                 :             : 
    3656                 :             : } // namespace selftest
    3657                 :             : 
    3658                 :             : 
    3659                 :             : #endif /* CHECKING_P */
        

Generated by: LCOV version 2.1-beta

LCOV profile is generated on x86_64 machine using following configure options: configure --disable-bootstrap --enable-coverage=opt --enable-languages=c,c++,fortran,go,jit,lto,rust,m2 --enable-host-shared. GCC test suite is run with the built compiler.